Fail 10: KI-Halluzinationen im Gerichtssaal
Es gibt eine Datenbank, die seit 2023 KI-Halluzinationen vor Gericht dokumentiert. Über 500 Fälle wurdens weltweit bereit erfasst. Immer wieder zitieren Anwälte von ChatGPT frei erfundene Urteile. Ein US-Richter erließ dieses Jahr ein fehlerhaftes Urteil auf Basis erfundener KI-Informationen und schob die Schuld kurzerhand auf einen Praktikanten. Auch in Israel berief sich die Staatsanwaltschaft jüngst auf von ChatGPT halluzinierte Gesetze. Ein kleiner Vorgeschmack einer dystopischen Zukunft, in der Richter und Anwälte von KI-Systemen ersetzt werden.
