Der Astrophysiker Stephen Hawking warnte 2017 vor einer KI, die sich optimiert und repliziert und so eine neue Lebensform wird, die die Leistung der Menschen übertrifft (Rötzer, 2017). Elon Musk verglich das Eintreten einer Superintelligenz mit einer Kernschmelze und empfahl, den Fokus der KI-Forschung auf KI-Sicherheit zu legen (Muehlhauser, 2015). Der Philosoph Nick Bostrom sieht in der Superintelligenz eine mögliche existentielle Bedrohung für die Menschheit und die Auswahl eines übergeordneten Ziels, wie Freundlichkeit zu oder Freundschaft mit dem Menschen sei von zentraler Bedeutung (Bostrom, 2003).
Technologische Singularität
Künstliche Intelligenz wird immer leistungsfähiger. Die Vorstellung einer technologischen Singularität, d.h. eines Zeitpunktes, an dem Maschinen menschliche Fähigkeiten erreichen oder sogar übertreffen, weckt sowohl Faszination als auch Besorgnis. Die Prognosen darüber, wann dieser Wendepunkt erreicht ist, variieren erheblich.
Vernor Vinge, ein renommierter Mathematiker, setzte bereits 1993 den Zeitpunkt der Singularität auf dreißig Jahre später an. Er betonte, dass eine Voraussetzung dafür eine Verbesserung der Hardware einschließlich Rechenleistung, Netzwerken und Mensch-Maschine-Schnittstellen sowie die Bereitstellung von Nanotechnologien seien. Dabei unterstrich er die Notwendigkeit, Vorsichtsmaßnahmen zu treffen, um sicherzustellen, dass eine entstehende Superintelligenz der Menschheit wohlgesonnen ist (Vinge, 1993).
Raymond Kurzweil, Computerpionier und Transhumanist, wagte im Jahr 2017 eine genauere Prognose: Er setzte den Zeitpunkt der Singularität auf 2045 an. Bereits 2029 sollten nach seinen Berechnungen Computer eine Intelligenz auf menschlichem Niveau erreichen. Kurzweil stützte seine Berechnungen auf das Mooresche Gesetz, das das exponentielle Wachstum der Prozessorgeschwindigkeit beschreibt. Dieses exponentielle Wachstum lässt sich auch in der technologischen Entwicklung der Menschheitsgeschichte erkennen. Er betrachtet die Singularität als Chance für die Menschheit, sich zu verbessern, indem neuronale Implantate das Sehen, Hören und die Gedächtnisleistung verbessern. In naher Zukunft habe seiner Einschätzung nach die Menschheit die Unsterblichkeit erreicht. Mit dem Upload menschlicher Gehirne würden maschinelle Gegenstücke existieren und die Fusion von Mensch und Maschine stattgefunden haben (Kurzweil, 2020).
Kritische Stimmen und ungelöste Fragen
Trotz dieser optimistischen Visionen gibt es Kritiker wie den ehemaligen Informatik-Professor Joseph Weizenbaum, einen Pionier der künstlichen Intelligenz und Entwickler des Chatbots ELIZA. Weizenbaum betrachtet die verbreitete Überzeugung, die Natur könne durch die Wissenschaft vollständig verstanden und objektiv berechenbar gemacht werden, als eine „katastrophale Fehlentwicklung des menschlichen Denkens” (maschafilm, 2010).