KI-Chatbot soll bei Rechtsberatung helfen

Die Stadt New York hat einen KI-Chatbot entwickeln lassen, der Unternehmen und Vermietern bei rechtlichen Fragen unterstützen soll. Das System scheint jedoch noch nicht ganz rund zu laufen, denn die Künstliche Intelligenz spuckt teilweise Falschaussagen aus, die zu einer Straftat führen können.

„MyCity“: So lautet der Name eines Chatbots, den die Stadt New York entwickeln lassen hat. Er wurde bereits im Oktober 2023 von Bürgermeister Eric Adams vorgestellt. Das System soll mithilfe von KI vor allem Unternehmen und Vermieter bei Rechtsfragen weiterhelfen.

Chatbot für Rechtsberatung: KI macht Falschaussagen

Laut einem Test des Nachrichtenmagazins The Markup läuft das jedoch noch nicht ganz rund. Denn demnach spuckt die KI auf einige Fragen falsche Antworten aus. Das könne sogar rechtliche Konsequenzen mit sich ziehen.

Neue Stellenangebote

		Growth Marketing Manager:in – Social Media GOhiring GmbH in Homeoffice
		Marketing-Manager mit Schwerpunkt Event und Social Media (m/w/d) Optigrün international AG in Krauchenwies-Göggingen
		(Junior) Social Media Manager (m/w/d) VILSA-BRUNNEN Otto Rodekohr GmbH in Bruchhausen-Vilsen

Alle Stellenanzeigen

Der Chatbot beantwortete die Frage, ob Vermieter einen sogenannten „Section 8“-Gutschein von Mietinteressierten ablehnen dürfen, mit ja. Der Hintergrund: Bei Section 8 handelt es sich um eine finanzielle Leistung für einkommensschwache Menschen. Die Leistung ist mit einem deutschen Wohnberechtigungschein vergleichbar.

In den USA ist es jedoch verboten, Menschen aufgrund der Section 8 abzulehnen, da es diskriminierend ist. Zwar liefert der Chatbot nicht immer falsche Antworten. Die Falschaussage zu Section 8 könnte Vermieter jedoch bereits vor rechtliche Probleme stellen.

Muss MyCity abgeschaltet werden?

Rosalind Black von der gemeinnützigen Organisation „Legal Services NYC“, die eine kostenlose Rechtsberatung für einkommensschwache Menschen anbietet, ist der KI gegenüber kritisch eingestellt: „Wenn dieser Chatbot nicht in einer verantwortungsvollen und akkuraten Weise arbeitet, sollte er abgeschaltet werden.“

Leslie Brown, Sprecherin des NYC Office of Technology and Innovation, entgegnete, dass das System bereits Tausende Menschen mit korrekten Antworten weitergeholfen habe. Man wolle dennoch weiter daran arbeiten, um kleine Unternehmen künftig noch mehr Unterstützung anbieten zu können.

Auch interessant:

Neue Stellenangebote

		Growth Marketing Manager:in – Social Media GOhiring GmbH in Homeoffice
		Marketing-Manager mit Schwerpunkt Event und Social Media (m/w/d) Optigrün international AG in Krauchenwies-Göggingen
		(Junior) Social Media Manager (m/w/d) VILSA-BRUNNEN Otto Rodekohr GmbH in Bruchhausen-Vilsen
		Social Media Advertising Manager (w/m/d) dm-drogerie markt GmbH + Co. KG in Karlsruhe
		Senior Social Media Manager (w/m/d) Horl 1993 GmbH in Freiburg
		Social Media Manager mit Pflege-Background (m/w/d) Dr. Ausbüttel & Co. GmbH in Dortmund
		Social Media Manager:in & Content Creator:in (m/w/d) Restube GmbH in Karlsruhe
		Social Media Manager (m/w/d) / Schwerpunkt Video Content WWF Deutschland in Berlin