Wenn ihr heute nur noch ein YouTube Video schaut, dann bitte das oben eingefügte.
Was wäre wenn man kleine Drohnen in großer Stückzahl produziert und sie dann mit künstlicher Intelligenz und Sprengstoff ausstattet? Das Future of Life Institute hat einen Kurzfilm produziert, der dieses Szenario Genauer betrachtet. Dabei ist das Video so gut gemacht, dass es auch leicht als eine neue Black Mirror Folge durchgehen könnte.
Ganz im Stil einer Techkeynote beschreibt der Chef der fiktiven Firma StartoEnergetics das die Kunden im letzten Jahr mit einer konvetionellen Drohne im letzen Jahr über 3.000 Präzisions Angriffe durchgeführt haben. Aber natürlich reicht dies in Zeiten von KI alleine nicht mehr aus.
Daraufhin kommt eine vermeintliche Spielzeugdrohne auf die Bühne geflogen. Nur das diese nun mit Gesichtserkennung, Künstlicher Intelligenz und ein wenig Sprengstoff ausgestattet ist.
Von nun an muss man der Drohne nur noch sagen, wenn sie finden und ausschalten soll, die Rest erledigt der kleine mini Quadrocopter komplett autonom. Dabei ist er natürlich deutlich schneller und effektiver als ein Mensch. Dank Big Data kann sie sogar anhand von Hashtags ihre Ziele selber identifizieren und aufspüren.
Der Film wirft die Frage auf ob wir in Zukunft diese Art von Entwicklung in der Technologie haben wollen. Der Film beantwortet die Frage auch direkt mit recht eindrucksvoll in der er zeigt was passieren könnte wenn diese Waffe in die Falsche Hände gerät.
Ganz am Ende des 7 Minuten Kurzfilms kommt Stuart Russel, Professor an der University Berkley, der sich seit 35 Jahren mit Forschung zu AI befasst zu Wort. Er sagt zwar auch, dass Künstlicher Intelligenz von enormen Nutzen für die Menschenheit sein kann aber warnt:
[mg_blockquote cite=“Stuart Russel“]But allowing machines to choose to kill humans will be devastating to our security and freedom. […] we have an opportunity to prevent the future you just saw, but the window to act is closing fast.[/mg_blockquote]Weiterführende SciFi Literatur
Wem der Film alleine noch nicht reicht, dem möchte ich unbedingt das Buch Kill Decision empfehlen.
Bei Kill Decision wird auch die Frage gestellt: Was passiert wenn Drohnen-Technologie dank Massenproduktion so billig wird, dass man ganze autonome Schwärme in die Luft schicken kann.
[asa]3499259184[/asa]Sie leben nicht. Aber sie töten.
Blutiger Drohnenangriff auf eine Pilgerstätte im Irak. Ein weiterer Angriff trifft eine kalifornische Universität. Die Biologin Linda McKinney ahnt nichts davon: Sie erforscht gerade eine besonders aggressive Spezies afrikanischer Ameisen, als sie mitten im Dschungel gekidnappt wird. Ihr Entführer heißt Odin, und er hat ihr offenbar das Leben gerettet. Wer sind die Mächte, die Lindas Forschungen zur Schwarmintelligenz unterdrücken wollen? Während sich in den USA grauenhafte Bombardements häufen und in den hintersten Winkeln des Planeten Millionen fliegender Tötungsmaschinen vom Band laufen, macht sich das Team um Odin und McKinney daran, die Menschheit vor der Vernichtung durch ihren eigenen technologischen Fortschritt zu retten …
Massenvernichtungswaffen der Zukunft
Wir haben bei uns auf dem Blog ja schon oft über die positiven Einsatzmöglichkeiten von Drohnen geschrieben, umso wichtiger finde ich es dass man auch sich über die Missbrauchsmöglichkeiten der Technologie bewusst wird.
Sehr intressant und gelungen finde ich übrigens die Art und Weise wie das ganze in Form einer Keynote erzählt wird.
Tatsächlich ist das Thema von autonomen Kriegs-Maschinen bisher ein wenig an mir vorbei gegangen. Umso wichtiger wird es aber jetzt sein auch bei diesen Themen ein genaues Auge drauf zu werfen und frühzeitig entsprechende internationale Verträge dazu abzuschließen. Denn sonst haben billig in Massenproduktion gefertigte autonome Roboter das Potential die Massenvernichtungswaffen der Zukunft zu werden.
Eine Zukunft die ich persönlich ungern sehen würde. Mehr Informationen zu der Kampagne zum Stop von autonomen Waffen findet ihr auf der offiziellen Webseite. Was glaubt ihr lässt sich diese Entwicklung noch aufhalten?
