Technologie

Die dunkle Seite der Technik: Manipulativ, überwachend und längst im Einsatz

Code, Angst, Gefahr, gefangen, Technik, Technologie
Der technische Fortschritt birgt auch viele Gefahren. (Foto: Pixabay.com / pixel2013)
geschrieben von Timor Kardum

Wie so oft ist es ein schmaler Grat. Die Möglichkeiten von Künstlicher Intelligenz sind gigantisch. Die Gefahren jedoch ebenso. Wichtig ist: Missbrauch, Manipulation und Überwachung dank dieser Technik sind längst Alltag. Eine Einordnung.

Künstliche Intelligenz (KI) und Augmented Reality können uns schon heute Superkräfte verleihen. Doch wo viel Licht ist, ist starker Schatten. (Johann Wolfgang von Goethe). Goethes Aphorismus ist heute so aktuell wie nie. Das beweist ein Blick auf die Schattenseiten unserer strahlend neuen Technik-Welt.

Wir leben in einer Welt, die getrieben ist von Daten. Daten werden bisher vor allem von Menschen generiert und anschließend durch clevere Algorithmen gejagt. Die erstmal ganz neutrale Hoffnung: neue Erkenntnisse erhalten.


Neue Stellenangebote

Senior Expert / Projektmanager (m/w/d) digitale Kommunikation
MUUUH! GmbH in Osnabrück
Marketing Consultant (m/w/d)
PERCONEX GmbH in Frankfurt
Junior Performance Marketing Manager (m|f|d)
Regiondo GmbH in Munich

Alle Stellenanzeigen


Die dunkle Seite der Technik und ihre Folgen

In der Nutzung der neuen technischen Möglichkeit schlummert ein gewaltiges Potential, das ein Wettrennen und Wettrüsten zur Folge hat. Die größten und mächtigsten Firmen und Staaten weltweit versuchen, eine Vormachtstellung zu erringen.

„Die Nation, die die künstliche Intelligenz als erste meistert, wird die führende Nation der Welt werden“, sagt Russlands Staatschef Vladimir Putin. Er selbst warnt im gleichen Zuge aber auch vor den Folgen, die eine unkontrollierte Entwicklung mit sich bringen kann.

Der russische Präsident mag nicht die erste Instanz sein, wenn es um die Bewertung von digitalen Sicherheitsfragen geht. Aber er liegt mit seiner Einschätzung sehr richtig.

Paypal- und Tesla-Gründer Elon Musk sieht die Zukunft sogar noch düsterer. Der Visionär prognostiziert bei einem Wettlauf um künstliche Intelligenz den dritten Weltkrieg.

Bedeuten großen Datenbanken wirklich mehr Sicherheit?

Das Dilemma, in dem Staaten und Firmen stecken, offenbart sich schnell: Soll man viele mögliche Szenarien durchspielen und evaluieren und im Zweifel die aktuellen Forschungen und Entwicklungen pausieren oder ganz einstellen?

Dann läuft man Gefahr, von der Konkurrenz überholt zu werden. Auf einem so dynamischen Feld wie der KI-Entwicklung geht das extrem schnell und hat schwerwiegende Folgen.

Wie praktisch die Implikationen dieser theoretischen Frage sind, zeigt die US-Homeland-Behörde. Diese nahm 2016 eine Biometrie-Datenbank in Betrieb. Zur Sicherheit der eigenen Bürger natürlich.

Kurz darauf begannen NATO, UN und selbst die EU eigene „Superdatenbanken“ aufzubauen. Bringt das wirklich mehr Sicherheit für Bürger? Datenschützer sind explizit anderer Meinung. Das größte Drama an dieser Entwicklung: Es leiden vorrangig diejenigen, die meistens ohnehin schon benachteiligt sind.

Frauen, soziale und ethnische Minderheiten werden bei Rankings systematisch schlechter eingestuft und haben kaum Möglichkeiten, dies zu beeinflussen. Sie erfahren meist nicht einmal davon. Obwohl die angewandte Technologie noch nicht ausgereift ist, wird sie schon großflächig eingesetzt.

Fünf Beispiele für die Folgen der Technik-Revolution

Wo genau die Grenze zur dunklen Seite der Künstlichen Intelligenz verläuft, mag eine philosophische Frage sein. Wo sie zweifelsfrei schon längst überschritten ist und weiterhin überschritten wird, zeigen diese Beispiele:

„Künstliche Intelligenz als Herrschafts-Instrument“

Was selbst George Orwell sich nur schwer hätte vorstellen können, ist in China bereits Realität. Dort wird vernetzte Überwachungs-Technik bereits gegen Uiguren und andere muslimische Minderheiten eingesetzt.

„Gerichts-KI in den USA bevorzugt weiße Menschen“

Sie sollen unparteiisch, nüchtern, rational sein – deshalb spielen Algorithmen und Künstliche Intelligenz vor Gericht eine größer werdende Rolle. Doch die Realität sieht deutlich anders aus. Die KI ist einiges, aber nicht neutral.

„HR-KI bei Amazon bevorzugte weiße Männer“

Wie bei Gerichts-KI war auch im Human-Ressource-Bereich die Hoffnung groß, den menschlichen Peer- oder Buddy-Faktor loszuwerden. Amazon setzte auf KI – und bevorzugte weiterhin weiße Männer.

„Unschuldig verhaftet von einer KI“

Es klingt nach Science Fiction: Eine KI beobachtet live die Körpersprache von Kunden im Laden und erkennt, wer einen Diebstahl begehen will. In Japan ist die Technik schon erfolgreich im Einsatz – und hat auch schon erfolgreich Unschuldige verhaften lassen.

„Microsofts Twitter-Bot wird in kürzester Zeit rassistisch“

Mit Maschinen reden – auch das kennen wir aus Science-Fiction-Filmen. Längst gibt es Chatbots, die gemäß verschiedener Regeln eine Konversation vortäuschen. Lernende Systeme gibt es aber auch, zum Beispiel Tay von Microsoft. Nach wenigen Stunden verschickte der Algorithmus rassistische Tweets und wurde abgeschaltet.

Die Beispiele zeigen nicht nur, was technisch schon möglich ist, sondern vor allem, wie schnell neutrale Algorithmen und KI manipuliert werden können und vieles sind – aber nicht mehr neutral.

Auch interessant:


Teile diesen Beitrag!

Über den Autor

Timor Kardum

Technology Strategist bei IXDS, begeistert und angetrieben von Technologie und Effizienz.

Digitaler Pionier und mit tiefem Wissen in Bereich visuelle Effekte, Bewegtbild, Virtual-, und Augmented Reality und K.I.:
Diverse Projekte im Bereich 360°-Film, interaktive XR Apps und A.I. Gefragter Experte, der bereits Projekte für namenhafte Kunden wie UN, Porsche, Deutsche Bahn, Volkswagen, arte uvm. realisieren durfte.

Kommentieren