Wäre Künstliche Intelligenz irgendwann dazu in der Lage, die Menschheit zu bedrohen und gar auszulöschen? Führende Wissenschaftler:innen haben nun erneut davor gewarnt, dass KI zur „Auslöschung der Menschheit“ führen könnte.
Schon seit einigen Jahren warnen Wissenschaftler immer wieder vor den Entwicklungen im Bereich der Künstlichen Intelligenz. Bereits im Jahr 2022 warnten Forschende davor, dass KI irgendwann zur Auslöschung der Menschheit beitragen könnte.
Auf einem KI-Gipfel in Seoul haben nun führende Wissenschaftler:innen erneut davor gewarnt. Darunter erwarten auch KI-Forscher:innen von Google, Meta und Microsoft.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Beats Studio Buds gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Könnte KI zur Auslöschung der Menschheit führen?
Der Einsatz von Künstlicher Intelligenz könnte enorme Auswirkungen für die Menschheit haben. Damit beschäftigt sich auch die Publikation „Umgang mit extremen KI-Risiken inmitten des rasanten Fortschritts“ im Fachmagazin Science.
Die Autor:innen sehen hier vor allem die Zunahme der Fähigkeiten und der Autonomie von KI-Systemen als Problem. Denn diese könnten zu „weitreichenden sozialen Schäden, böswilligen Anwendungen und einem irreversiblen Verlust der menschlichen Kontrolle über autonome KI-Systeme“ führen.
Den derzeitigen Initiativen zur Steuerung fehlen die Mechanismen und Institutionen, um Missbrauch und Leichtsinn zu verhindern, und sie befassen sich kaum mit autonomen Systemen.
Dabei sei es vor allem wichtig, autonome KI-Systeme im Griff zu behalten. Denn wenn diese erst einmal unerwünschte Ziele verfolgen, könne es für den Menschen schwer sein, die Kontrolle über sie zu behalten.
Fortschritt hört vermutlich nicht bei menschlichen Fähigkeiten auf
Zurzeit ist es laut den Autor:innen noch unklar, wie schnell die Entwicklung im Bereich der KI voranschreitet. Sie gehen allerdings davon aus, dass der Fortschritt der KI sich nicht verlangsamen wird. Auch werden die Entwicklungen kaum bei den menschlichen Fähigkeiten stehen bleiben.
Im Vergleich zu Menschen können KI-Systeme schneller handeln, mehr Wissen aufnehmen und mit einer höheren Bandbreite kommunizieren.
Es sei davon auszugehen, dass im nächsten Jahrzehnt hochleistungsfähige, generalistische KI-Systeme entwickelt werden. Diese könnten menschliche Fähigkeiten in vielen wichtigen Bereichen übertreffen.
Doch damit würden nicht nur die Chancen für den Einsatz von KI-Systemen steigen, sondern auch die Zahl der Risiken. So könnten selbst wohlmeinende Entwickler:innen dieses Problem verschärfen.
KI-Systeme drohen, soziale Ungerechtigkeit zu verstärken, die soziale Stabilität zu untergraben, kriminelle Handlungen in großem Maßstab zu ermöglichen und automatisierte Kriegsführung, maßgeschneiderte Massenmanipulation und allgegenwärtige Überwachung zu erleichtern.
Deshalb müsse nicht nur in die Entwicklung von KI-System investiert werden. Es sei außerdem von enormer Wichtigkeit, „ihre Sicherheit zu gewährleisten und ihre Schäden zu mindern“. Sonst könnte der „unkontrollierte KI-Fortschritt zu einem großflächigen Verlust von Leben und der Biosphäre sowie zur Marginalisierung oder Auslöschung der Menschheit führen“.
Auch interessant:
