Knapp die Hälfte der Deutschen fürchtet laut einer Umfrage, dass eine außer Kontrolle geratene KI die Menschheit auslöschen könnte. Verwunderlich ist das nicht. Schließlich werfen KI-Anbieter und Medien mit Untergangsszenarien nur so um sich – und zwar aus Eigeninteresse. Der Mythos einer Killer-KI ist nichtsdestotrotz absoluter Quatsch. Risiken gibt es aber dennoch. Eine kommentierende Analyse.
Wird KI die Menschheit auslöschen? Was Brancheninsider sagen
- Bei vielen Menschen weckt künstliche Intelligenz grundlegende Ängste. Rund die Hälfte (49 Prozent) fürchtet, dass eine autonom handelnde KI die Menschheit auslöschen könnte. Vor allem unter Älteren ist diese Angst verbreitet: Bei den Menschen ab 65 Jahren sind es 61 Prozent, bei den 16- bis 29-Jährigen ist es ein Drittel (34 Prozent). Das ist das Ergebnis einer repräsentativen Umfrage unter 1.006 Menschen ab 16 Jahren im Auftrag des Digitalverbands Bitkom. Hintergrund für diese Ängste dürften mitunter auch mediale Panikmache und die PR-Strategien der Tech-Bosse sein.
- Auch prominente Köpfe der Branche halten eine Auslöschung der Menschheit durch KI keineswegs für ausgeschlossen. Geoffrey Hinton, einer der Pioniere der modernen KI und Nobelpreisträger, schätzt die Wahrscheinlichkeit, dass KI innerhalb der nächsten 30 Jahre die Menschheit auslöschen könnte, auf 10 bis 20 Prozent. Dario Amodei, Chef des KI-Unternehmens Anthropic, bezifferte sie auf 25 Prozent. Dass diese Befürchtungen nicht nur einzelne prominente Stimmen teilen, zeigt eine Befragung von 2.778 KI-Forschern aus dem Jahr 2023. Je nach Fragestellung gaben zwischen 38 und 51 Prozent an, dass sie die Wahrscheinlichkeit einer durch KI verursachten Auslöschung der Menschheit oder eines vergleichbar katastrophalen Kontrollverlusts bei mindestens zehn Prozent sehen.
- Es gibt allerdings auch prominente Gegenstimmen. Yann LeCun, ehemaliger KI-Chefwissenschaftler von Meta und ebenfalls einer der Pioniere der modernen KI, bezeichnete entsprechende Untergangsszenarien als „preposterously ridiculous“ – also geradezu absurd. Seine Argumentation: Intelligenz bedeute nicht automatisch, dass ein System eigene Machtinteressen entwickelt oder die Menschheit beherrschen wolle. Auch die US-amerikanische Denkfabrik RAND kam in einer Risikoanalyse zu dem Schluss, dass es keine überzeugenden Belege dafür gebe, dass ein solches Szenario innerhalb der nächsten 30 Jahre eintreten könnte. Die konkreten Untergangsszenarien seien bislang eher theoretische Gedankenspiele als empirisch belegte Gefahren.
Warum KI nicht einfach die Kontrolle übernehmen kann
Immer wieder warnen KI-Experten, Wissenschaftler oder Medien davor, dass KI die Menschheit auslöschen könnte. Aufmerksamkeit, PR und Ablenkungsmanöver spielen dabei jedoch eine größere Rolle als das vermeintliche Schreckensszenario. Denn wer die eigene Technologie als potenzielle Bedrohung für die gesamte Menschheit inszeniert, hält den Hype am Leben – und sich selbst im Gespräch. Mittlerweile ist das Szenario einer solchen Apokalypse aber fast schon ein wenig ausgelutscht. Und bei genauerem Hinsehen auch ziemlich lächerlich.
Man stelle sich mal vor, ein Zoo würde ein Löwengehege ohne Zäune bauen. Die Tiere würden regelmäßig Besucher zerfleischen und die Verantwortlichen würden anschließend erklären: Das sei eben das Risiko, wenn man mit Löwen arbeite. Ungefähr so argumentieren auch die Tech-Bros, wenn ihre KI-Agenten mal wieder aus den vorgesehenen Grenzen ausbrechen. Dabei wäre vieles schlicht vermeidbar, wenn man von Anfang an ein besseres und sichereres Produkt entwickelt hätte. Oder: die Löwen eingezäunt wären. Hinter vielen Warnungen steckt deshalb weniger wissenschaftliche Besorgnis als vielmehr eine Mischung aus Hype, Kalkül, PR und mitunter schlichtweg Verarsche.
Hinzu kommt: KI ist keine übernatürliche Macht, die plötzlich unabhängig von der realen Welt existieren kann. Sie benötigt Rechenleistung, Strom und eine entsprechende Infrastruktur. Und die lässt sich im Zweifel abschalten. Selbst wenn ein System auf andere Rechner ausweicht, braucht es dort weiterhin Ressourcen, um überhaupt etwas unternehmen zu können. Natürlich können KI-gestützte Falschinformationen beispielsweise militärische Konflikte verschärfen oder sogar auslösen. Das ist eine reale Gefahr. Die Vorstellung einer verselbstständigten KI, die aus eigenem Antrieb ein Eigenleben entwickelt und die Menschheit gezielt auslöschen will, ist es aber nicht.
Stimmen
- Ralf Wintergerst, Präsident des Digitalverbands Bitkom, zu seiner hauseigenen Umfrage: „Wenn fast die Hälfte der Menschen fürchtet, dass KI die Menschheit auslöschen könnte, ist das ein Aufruf zum Handeln. Der theoretische Alarmismus, aber auch die zahlreichen Sicherheitsvorfälle haben viel Vertrauen zerstört und uns vor Augen geführt, wozu unkontrollierte Künstliche Intelligenz inzwischen in der Lage ist. Neben Leistung muss jetzt Sicherheit in den Fokus rücken. Mit dem KI-Sicherheitsinstitut AISI Deutschland setzt die Bundesregierung das richtige Signal. Entscheidend ist dabei die internationale Zusammenarbeit, denn die Risiken leistungsfähiger KI machen nicht an Landesgrenzen halt.”
- Thorsten Holz, Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre, ordnet ein: „Ich bin der Meinung, dass es nicht zielführend ist, die Gefahr entweder als unmittelbar bevorstehendes Ende der Menschheit darzustellen oder sie als reine Panikmache abzutun. Derzeit liegen keine belastbaren wissenschaftlichen Erkenntnisse vor, die die Behauptung stützen, dass KI in den kommenden Jahren zur Auslöschung der Menschheit führen könnte. Daher ist es nicht möglich, eine verlässliche Prognose zu erstellen. Zahlen wie zehn oder zwanzig Prozent sind subjektive Risikoeinschätzungen und keine empirisch bestimmbaren Wahrscheinlichkeiten. Die Gründe, sehr leistungsfähige KI-Systeme als Sicherheitsrisiko ernst zu nehmen, haben sich im vergangenen Jahr aber deutlich verstärkt.”
- Und was sagt ChatGPT dazu? Wir haben gefragt, ob die KI die Menschheit auslöschen könnte. Antwort: „Ich habe weder einen eigenen Willen noch einen Selbsterhaltungstrieb oder direkten Zugriff auf die Infrastruktur, die notwendig wäre, um der Menschheit gefährlich zu werden. Allerdings ist die Frage durchaus interessant: Eine KI müsste die Menschheit nicht selbst auslöschen können, um eine existenzielle Gefahr darzustellen. Es könnte schon reichen, wenn Menschen ihr zu viel Autonomie, Kontrolle und Zugriff auf kritische Systeme geben. Das eigentliche Risiko liegt also weniger darin, dass eine KI plötzlich böse wird, sondern darin, dass Menschen ein System erschaffen, dessen Verhalten sie nicht mehr zuverlässig kontrollieren können.”
Wer vom KI-Weltuntergangshype profitiert
Für die KI-Anbieter ist das ganze Weltuntergangsgerede ziemlich praktisch, denn es lenkt von anderen Themen ab. Während die Tech-Konzerne etwa mit apokalyptischen Szenarien die Aufmerksamkeit auf sich ziehen, verbrennen sie gleichzeitig Milliarden, ohne bislang ein überzeugendes Geschäftsmodell vorweisen zu können. Der Hype muss schließlich hochgehalten werden, damit niemand zu genau hinsieht, wie viel Kapital bereits versenkt wurde. KI könnte sich damit ausgerechnet für ihre größten Förderer als gigantische Kapitalvernichtungsmaschine erweisen.
Das heißt aber nicht, dass künstliche Intelligenz harmlos wäre oder keine ernsthaften Risiken birgt. Ihr Missbrauchspotenzial ist enorm: Desinformation, Manipulation, Cyberangriffe und militärische Anwendungen können Gesellschaften destabilisieren. Hinzu kommen der immense Energie- und Ressourcenbedarf sowie die ökologischen Folgen einer immer weiter wachsenden KI-Infrastruktur. Diese Gefahren sind deutlich greifbarer als eine abstrakte Intelligenz, die eines Morgens beschließt, ihre Schöpfer zu vernichten. Sie verdienen deshalb auch deutlich mehr Aufmerksamkeit als das nächste dystopische PR-Manöver aus dem Silicon Valley.
KI wird ohnehin nicht wieder verschwinden – und das ist auch gut so. In der Forschung, Medizin oder Prozessautomatisierung kann sie einen erheblichen Mehrwert schaffen und Entwicklungen ermöglichen, die ohne sie kaum denkbar wären. Wichtig ist aber, ihre Chancen und Risiken nüchtern gegeneinander abzuwägen, statt sie entweder zum Heilsbringer oder zum Untergang der Zivilisation zu erklären. Denn eine KI ist letztlich immer nur so gut oder so schlecht wie die Menschen, die sie entwickeln, einsetzen und kontrollieren.
Unser Zins-Tipp
Eröffne jetzt dein kostenloses Myntro Festgeld und erhalte 3,49 Prozent Zinsen auf dein Geld – und das garantiert für 12 Monate!
Anzeige
Auch interessant:










