Die Stadt New York hat einen KI-Chatbot entwickeln lassen, der Unternehmen und Vermietern bei rechtlichen Fragen unterstützen soll. Das System scheint jedoch noch nicht ganz rund zu laufen, denn die Künstliche Intelligenz spuckt teilweise Falschaussagen aus, die zu einer Straftat führen können.
„MyCity“: So lautet der Name eines Chatbots, den die Stadt New York entwickeln lassen hat. Er wurde bereits im Oktober 2023 von Bürgermeister Eric Adams vorgestellt. Das System soll mithilfe von KI vor allem Unternehmen und Vermieter bei Rechtsfragen weiterhelfen.
Chatbot für Rechtsberatung: KI macht Falschaussagen
Laut einem Test des Nachrichtenmagazins The Markup läuft das jedoch noch nicht ganz rund. Denn demnach spuckt die KI auf einige Fragen falsche Antworten aus. Das könne sogar rechtliche Konsequenzen mit sich ziehen.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück 50€ Amazon-Guthaben gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Der Chatbot beantwortete die Frage, ob Vermieter einen sogenannten „Section 8“-Gutschein von Mietinteressierten ablehnen dürfen, mit ja. Der Hintergrund: Bei Section 8 handelt es sich um eine finanzielle Leistung für einkommensschwache Menschen. Die Leistung ist mit einem deutschen Wohnberechtigungschein vergleichbar.
In den USA ist es jedoch verboten, Menschen aufgrund der Section 8 abzulehnen, da es diskriminierend ist. Zwar liefert der Chatbot nicht immer falsche Antworten. Die Falschaussage zu Section 8 könnte Vermieter jedoch bereits vor rechtliche Probleme stellen.
Muss MyCity abgeschaltet werden?
Rosalind Black von der gemeinnützigen Organisation „Legal Services NYC“, die eine kostenlose Rechtsberatung für einkommensschwache Menschen anbietet, ist der KI gegenüber kritisch eingestellt: „Wenn dieser Chatbot nicht in einer verantwortungsvollen und akkuraten Weise arbeitet, sollte er abgeschaltet werden.“
Leslie Brown, Sprecherin des NYC Office of Technology and Innovation, entgegnete, dass das System bereits Tausende Menschen mit korrekten Antworten weitergeholfen habe. Man wolle dennoch weiter daran arbeiten, um kleine Unternehmen künftig noch mehr Unterstützung anbieten zu können.
Auch interessant:
