Technologie

Wissenschaftler warnen vor „Auslöschung der Menschheit“ durch KI

KI Auslöschung der Menschheit, Künstliche Intelligenz, KI
Adobe Stock / nespix
geschrieben von Maria Gramsch

Wäre Künstliche Intelligenz irgendwann dazu in der Lage, die Menschheit zu bedrohen und gar auszulöschen? Führende Wissenschaftler:innen haben nun erneut davor gewarnt, dass KI zur „Auslöschung der Menschheit“ führen könnte.

Schon seit einigen Jahren warnen Wissenschaftler immer wieder vor den Entwicklungen im Bereich der Künstlichen Intelligenz. Bereits im Jahr 2022 warnten Forschende davor, dass KI irgendwann zur Auslöschung der Menschheit beitragen könnte.

Auf einem KI-Gipfel in Seoul haben nun führende Wissenschaftler:innen erneut davor gewarnt. Darunter erwarten auch KI-Forscher:innen von Google, Meta und Microsoft.

Könnte KI zur Auslöschung der Menschheit führen?

Der Einsatz von Künstlicher Intelligenz könnte enorme Auswirkungen für die Menschheit haben. Damit beschäftigt sich auch die Publikation „Umgang mit extremen KI-Risiken inmitten des rasanten Fortschritts“ im Fachmagazin Science.

Die Autor:innen sehen hier vor allem die Zunahme der Fähigkeiten und der Autonomie von KI-Systemen als Problem. Denn diese könnten zu „weitreichenden sozialen Schäden, böswilligen Anwendungen und einem irreversiblen Verlust der menschlichen Kontrolle über autonome KI-Systeme“ führen.

Den derzeitigen Initiativen zur Steuerung fehlen die Mechanismen und Institutionen, um Missbrauch und Leichtsinn zu verhindern, und sie befassen sich kaum mit autonomen Systemen.

Dabei sei es vor allem wichtig, autonome KI-Systeme im Griff zu behalten. Denn wenn diese erst einmal unerwünschte Ziele verfolgen, könne es für den Menschen schwer sein, die Kontrolle über sie zu behalten.

Fortschritt hört vermutlich nicht bei menschlichen Fähigkeiten auf

Zurzeit ist es laut den Autor:innen noch unklar, wie schnell die Entwicklung im Bereich der KI voranschreitet. Sie gehen allerdings davon aus, dass der Fortschritt der KI sich nicht verlangsamen wird. Auch werden die Entwicklungen kaum bei den menschlichen Fähigkeiten stehen bleiben.

Im Vergleich zu Menschen können KI-Systeme schneller handeln, mehr Wissen aufnehmen und mit einer höheren Bandbreite kommunizieren.

Es sei davon auszugehen, dass im nächsten Jahrzehnt hochleistungsfähige, generalistische KI-Systeme entwickelt werden. Diese könnten menschliche Fähigkeiten in vielen wichtigen Bereichen übertreffen.


Neue Stellenangebote

Growth Marketing Manager:in – Social Media
GOhiring GmbH in Homeoffice
Communication Expert / Content Designer Social Media (m/w/d)
ISR Information Products AG in Braunschweig
Social Media Manager Marketing & Kommunikation (m/w/d)
ISR Information Products AG in Braunschweig

Alle Stellenanzeigen


Doch damit würden nicht nur die Chancen für den Einsatz von KI-Systemen steigen, sondern auch die Zahl der Risiken. So könnten selbst wohlmeinende Entwickler:innen dieses Problem verschärfen.

KI-Systeme drohen, soziale Ungerechtigkeit zu verstärken, die soziale Stabilität zu untergraben, kriminelle Handlungen in großem Maßstab zu ermöglichen und automatisierte Kriegsführung, maßgeschneiderte Massenmanipulation und allgegenwärtige Überwachung zu erleichtern.

Deshalb müsse nicht nur in die Entwicklung von KI-System investiert werden. Es sei außerdem von enormer Wichtigkeit, „ihre Sicherheit zu gewährleisten und ihre Schäden zu mindern“. Sonst könnte der „unkontrollierte KI-Fortschritt zu einem großflächigen Verlust von Leben und der Biosphäre sowie zur Marginalisierung oder Auslöschung der Menschheit führen“.

Auch interessant:

Über den Autor

Maria Gramsch

Maria ist freie Journalistin und technische Mitarbeiterin an der Universität Leipzig. Seit 2021 arbeitet sie als freie Autorin für BASIC thinking. Maria lebt und paddelt in Leipzig und arbeitet hier unter anderem für die Leipziger Produktionsfirma schmidtFilm. Sie hat einen Bachelor in BWL von der DHBW Karlsruhe und einen Master in Journalistik von der Universität Leipzig.

1 Kommentar

  • So ein unwissenschftliches Milchmädchengelaber ohne jede konkrete Gefahrenbennung gehört in die dümmlich Boulevard Blättchen.

Kommentieren