Die Stadt New York hat einen KI-Chatbot entwickeln lassen, der Unternehmen und Vermietern bei rechtlichen Fragen unterstützen soll. Das System scheint jedoch noch nicht ganz rund zu laufen, denn die Künstliche Intelligenz spuckt teilweise Falschaussagen aus, die zu einer Straftat führen können.
„MyCity“: So lautet der Name eines Chatbots, den die Stadt New York entwickeln lassen hat. Er wurde bereits im Oktober 2023 von Bürgermeister Eric Adams vorgestellt. Das System soll mithilfe von KI vor allem Unternehmen und Vermieter bei Rechtsfragen weiterhelfen.
Chatbot für Rechtsberatung: KI macht Falschaussagen
Laut einem Test des Nachrichtenmagazins The Markup läuft das jedoch noch nicht ganz rund. Denn demnach spuckt die KI auf einige Fragen falsche Antworten aus. Das könne sogar rechtliche Konsequenzen mit sich ziehen.
Neue Stellenangebote
|
Growth Marketing Manager:in – Social Media GOhiring GmbH in Homeoffice |
|
|
Journalistin als Kommunikationsexperte Social Media / Content Marketing (m|w|d) Süwag Energie AG in Frankfurt a.M. |
|
|
Journalist*in als Pressesprecher*in Social Media / Content Marketing (m|w|d) Süwag Energie AG in Frankfurt a.M. |
Der Chatbot beantwortete die Frage, ob Vermieter einen sogenannten „Section 8“-Gutschein von Mietinteressierten ablehnen dürfen, mit ja. Der Hintergrund: Bei Section 8 handelt es sich um eine finanzielle Leistung für einkommensschwache Menschen. Die Leistung ist mit einem deutschen Wohnberechtigungschein vergleichbar.
In den USA ist es jedoch verboten, Menschen aufgrund der Section 8 abzulehnen, da es diskriminierend ist. Zwar liefert der Chatbot nicht immer falsche Antworten. Die Falschaussage zu Section 8 könnte Vermieter jedoch bereits vor rechtliche Probleme stellen.
Muss MyCity abgeschaltet werden?
Rosalind Black von der gemeinnützigen Organisation „Legal Services NYC“, die eine kostenlose Rechtsberatung für einkommensschwache Menschen anbietet, ist der KI gegenüber kritisch eingestellt: „Wenn dieser Chatbot nicht in einer verantwortungsvollen und akkuraten Weise arbeitet, sollte er abgeschaltet werden.“
Leslie Brown, Sprecherin des NYC Office of Technology and Innovation, entgegnete, dass das System bereits Tausende Menschen mit korrekten Antworten weitergeholfen habe. Man wolle dennoch weiter daran arbeiten, um kleine Unternehmen künftig noch mehr Unterstützung anbieten zu können.
Auch interessant:
- Gamechanger? KI soll Ökosysteme schützen und Artensterben verhindern
- Künstliche Intelligenz führt inneren Monolog – und wird schlauer
- Künstliche Intelligenz erlernt einzigartige menschliche Fähigkeit
- Studie offenbart: Künstliche Intelligenz zeigt menschenähnliches Verhalten
Kommentieren