Eine Gruppe von Informatikern und Philosophen ist der Meinung, dass das Wohlbefinden von Künstlicher Intelligenz eine ernst zu nehmende Rolle spielt. Sie fordern Tech-Unternehmen dazu auf, ihre KI-System auf Anzeichen für ein Bewusstsein zu prüfen.
Die rasante Entwicklung von Künstlicher Intelligenz wirft Fragen auf, die aus einem Science Fiction-Film stammen könnten: „Was ist, wenn KI ein Bewusstsein entwickelt?“ oder „Stellt Künstliche Intelligenz eine Gefahr für die Menschheit dar?“.
Forscher fordern: Unternehmen sollen KI auf ein Bewusstsein prüfen
Diese oder ähnliche Fragen hat sich auch eine Gruppe von Informatikern und Philosophen gestellt. In einem Bericht, den sie auf dem Preprint-Server arXiv1 veröffentlicht haben, vertreten sie die Meinung, dass das Wohlbefinden von Künstlicher Intelligenz eine ernst zu nehmende Rolle spielt.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Beats-Kopfhörer gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Das Forschungspapier ist bislang zwar noch nicht durch das sogenannte Peer-Review-Verfahren gelaufen – sprich: Es wurde noch nicht von unabhängigen Wissenschaftlern überprüft. Allerdings befinden sich unter den Studienautoren einige renommierte Namen. Darunter: Jeff Sebo, Professor für Bioethik, medizinische Ethik und Philosophie an der New York University.
Die Gruppe fordert, dass Tech-Unternehmen ihre KI-Systeme auf Anzeichen von Bewusstsein überprüften sollten. Außerdem: Ob sie die Fähigkeit hätten, eigenständige Entscheidungen zu treffen. Falls diese oder ähnliche Szenarien eintreten, benötige es entsprechende Richtlinien für den Umgang, so die Forscher.
Andernfalls könnte die Entwicklung dazu führen, dass KI den Menschen womöglich Schaden zufügt. Während einige skeptisch sind, dass es jemals dazu kommen könnte und den Gedanken eines KI-Bewusstseins als lächerlich bezeichnen, plädieren andere dafür, dass man sich auf den Ernstfall einstellen sollte.
Kann Künstliche Intelligenz der Menschheit schaden?
Anil Seth, Bewusstseinsforscher an der Universität von Sussex in Brighton, ist zwar nicht Teil der Forschungsgruppe. Er nimmt die Warnungen seiner Kollegen jedoch durchaus ernst. Im Wissenschaftsmagazin Nautilus schrieb er im Mai 2023 dazu:
Diese Szenarien mögen abwegig erscheinen, und es ist wahr, dass eine bewusste KI noch sehr weit entfernt und vielleicht nicht einmal möglich ist. Aber die Implikationen ihres Auftauchens sind so tektonisch, dass wir die Möglichkeit nicht ignorieren dürfen. Das Problem war nicht, dass Frankensteins Kreatur zum Leben erwachte; das Problem war, dass sie ein Bewusstsein hatte und fühlen konnte.
Studienautor Jeff Sebo vertritt derweil die Ansicht, dass Menschen geschädigt werden könnten, wenn KI nicht auf ein Bewusstsein hin überprüft wird. Denn wenn wir fälschlicherweise davon ausgehen würden, dass ein System ein Bewusstsein hat, könne das dazu führen, dass KI nicht sicher ist.
Laut Sebo sei zwar unklar, ob KI jemals ein Bewusstsein erlangen wird, da dies selbst bei Menschen und Tieren schwer zu beurteilen sei. Ungewissheit sollte seiner Meinung nach jedoch nicht dazu führen, Unbekanntes oder Abstraktes zu bewerten.
Auch interessant:
- „Beunruhigend”: KI ignoriert Anweisungen, um ihre Ziele zu erreichen
- Digitaler Klon: KI kann Abbild deiner Persönlichkeit erstellen – in nur zwei Stunden
- Selbstheilendes Stromnetz: Künstliche Intelligenz soll Blackouts vermeiden
- KI-Lücke: Künstliche Intelligenz sorgt für eine noch tiefere „digitale Kluft“
