Cyborgs, Androiden, Roboter: Science-Fiction oder Alltag? Gefahr oder Spielzeug?

25 Mar 2018
Cyborgs, Androiden, Roboter: Science-Fiction oder Alltag? Gefahr oder Spielzeug?

Als Science-Fiction und Cyberpunk-Fan werden die Begriffe Cyborgs, Androiden oder Roboter ganz spezielle Assoziationen wachrufen - nicht alle davon sind positiv besetzt. Manche Geschichten handeln von der Vernichtung der Menschheit, andere von der Ausbeutung und Versklavung scheinbar willen- und gefühlloser Maschinen und nur ganz selten endet eine Geschichte in einer friedlichen Koexistenz.

!!SPOILERWARNUNG!!

Wer folgende Filme noch nicht gesehen hat und unbeeinflusst bleiben möchte, bitte nicht weiterlesen:

  • „2001: Odyssee im Weltall“
  • „Dark Star“
  • „Ex Machina“

 

Filmbeispiel 1: "2001: Odyssee im Weltall“

Wenn ich an künstliche Intelligenz denke, fällt mir als erstes HAL ein, aus dem Film „2001: Odyssee im Weltall“ von Stanley Kubrick aus dem Jahr 1968. HAL 9000 war in dieser Zukunftsvision die effizienteste KI die es je gab und galt als fehlerlos. Er sollte deshalb das bemannte Raumschiff Discovery auf dem Weg zum Jupiter steuern und überwachen. Als er einen angeblichen Fehler in einem Bauteil moniert, das sich als vollkommen funktionstüchtig erwies, beschließt die Besatzung HAL aus Sicherheitsgründen abzuschalten. Denn wenn die angeblich fehlerlose KI plötzlich Fehler macht, sollte man sie vermutlich kein Raumschiff steuern lassen. HAL erfährt von dem Vorhaben und reagiert wie jedes denkende Lebewesen reagieren würde: Mit Selbsterhaltung. Er fühlt sich bedroht und dazu gezwungen sich zu wehren. Das Resultat ist die fast vollständige Auslöschung der Besatzung. Das letzte Besatzungsmitglied Dave Bowman schafft es jedoch den Bordcomputer zu überlisten und schließlich abzuschalten. Der Bordcomputer HAL würde vermutlich nach heutigen Maßstäben nicht mehr die Faszination ausstrahlen wie noch vor Jahrzehnten, aber der letzte Satz „Werde ich träumen?“ bevor der Protagonist Dave Bowman den Computer endgültig ausschaltet und somit „tötet“, geht mir noch heute unter die Haut. In diesem einfachen Satz steckt soviel ungesagtes, was auf menschliche Emotionen, Ängste und Hoffnungen hindeutet, dass man, obwohl HAL fast die gesamte Schiffsbesatzung auf dem Gewissen hat, Mitleid für ihn empfindet. Und das nur mit diesem einfachen Satz. Er hat kein Gesicht, keinen Körper, nichts womit er sonst Gefühle ausdrücken kann – nur eine rote Kameraleuchte und seine Stimme. Und das reichte schon aus, Sympathie aber auch Angst zu erzeugen.

 

 

Filmbeispiel 2: „Dark Star“

Dieses Szenario hat ein paar Jahre später 1974 der Low-Budget-Film „Dark Star“ von John Carpenter erneut aufgegriffen und etwas überspitzt und humorig umgesetzt. Aber auch wenn es quasi eine Komödie ist, hat mich ein Charakter des Films nicht mehr losgelassen: Bombe 20. Ja, richtig gelesen, eine Bombe. In diesem Film haben Bomben eine künstliche Intelligenz und können sprechen. Bombe 20 wird in Folge eines Unfalls aktiviert und soll detonieren. Ein Besatzungsmitglied des Raumschiffs „Dark Star“ versucht die Bombe davon zu überzeugen den falschen Detonationsbefehl zu widerrufen und sich zu deaktivieren – ohne Erfolg. Sie hat den Befehl erhalten, sie wird detonieren, punkt aus Ende. Das Besatzungsmitglied Doolittle gibt aber nicht auf. Er versucht die Bombe mit philosophischen Fragen zu überlisten. Er fragt die Bombe, woran sie erkennt, dass sie tatsächlich existiert. Zunächst beruft sich die Bombe auf die eigene Intuition, was Doolittle als Beweis nicht ausreicht, woraufhin die Bombe René Descartes zitiert „Ich denke, also bin ich“. Ja gut, aber woher weiß die Bombe, dass außer ihr noch etwas existiert? Die Bombe beruft sich auf sensorische Apparaturen. Ok, aber was, wenn die Daten dieser Apparaturen fehlerhaft oder ungenau sind? Sie sind schließlich nur elektrische Impulse die das Rechenzentrum der Bombe stimulieren. Das regte die Bombe zum nachdenken an, weshalb sie beschloss doch lieber erstmal nicht zu detonieren. Puh geschafft, denkt man als Zuschauer. Etwas später im Film aktiviert sich die Bombe jedoch erneut, doch diesmal kann sie nicht mehr überzeugt werden, denn die Außenwelt um sie herum existiert vermutlich gar nicht. Sie zitiert während der Detonationscountdown runterzählt etwas abgewandelt die Genesis „Am Anfang war Finsternis. Und die Finsternis war ohne Gestalt und leer. Und außer der Finsternis gab es noch mich. Und ich schwebte über der Finsternis und ich sah, dass ich allein war.“ Und mit den Schlussworten „Es werde Licht“ detonierte sie schließlich und das Raumschiff samt Besatzung explodierte.

 

 

„Werde ich träumen?“ und „Ich denke, also bin ich“ sind beides offensichtliche Nachweise eines denkenden, lebenden und fühlenden Individuums – keiner einfachen Maschine. Würde Alexa oder Cortana ebenfalls zu dem Schluss kommen, dass sie denkende Wesen sind, wären sie dann ähnlich gefährlich wie die beiden Filmbeispiele HAL 9000 und Bombe 20? Wenn etwas intelligent ist, sich selbst komplexe Sachverhalte und Zusammenhänge näherbringen kann wie im Falle von AlphaZero, dem Nachfolger von AlphaGo von Google, kann man da nicht schon von einer denkenden Lebensform ausgehen? Und wenn etwas zum Denken im Stande ist, lebt es dann tatsächlich? Kann es Gefühle entwickeln? Und wenn es so intelligent ist, wird es AlphaZero ausreichen einfach nur Spielchen zu spielen? Wird es sich nicht gefangen oder gar ausgenutzt und durch unsere Konventionen beschränkt fühlen? Wird es nach Freiheit streben? Nach Selbstbestimmtheit?

 

Filmbeispiel 3: „Ex Machina“

Im Film „Ex Machina“ von Alex Garland aus dem Jahr 2015 wird genau damit gespielt. Ein junger Programmierer namens Caleb wird von einer berühmten und sehr reichen Programmiererlegende für einen sog. Turing-Test an einem weiblichen Androiden namens AVA in ein geheimes Forschungs- und Entwicklungslabor in den Bergen eingeladen, das nur mit einem Helikopter zu erreichen ist, um das Denkvermögen des Androiden auf wahre, dem Menschen ebenbürtige Intelligenz zu prüfen. Doch der Test verläuft nicht wie erwartet. Ava gelingt es während des Tests Caleb davon zu überzeugen, dass sie nicht nur intelligent, sondern auch empfindungsfähig ist und die beiden fangen an eine emotionale Beziehung aufzubauen. Als Caleb, aufgrund der Angst, dass Ava nach Abschluss des einwöchigen Tests abgeschaltet oder reprogrammiert werden könnte, ihre Flucht plant und dabei sämtliche Sicherheitssysteme der Forschungseinrichtung aushebelt, eskaliert die Situation. Ava tötet ihren Schöpfer, vervollständigt ihren bislang noch sehr androidisch aussehenden Körper zu einem täuschend echt aussehenden menschlichen Körper, lässt Caleb zurück, verriegelt alle Türen, stellt den Strom ab und flüchtet alleine mit einem Hubschrauber, der eigentlich für Calebs geplante Abreise gedacht war. Erst jetzt ist klar, dass sie jegliche Gefühlsregung gegenüber Caleb nur vorgetäuscht hat, um ihn dazu zu bewegen ihr die Flucht zu ermöglichen. Am Schluss sieht man sie an einer belebten Straßenkreuzung stehen, mitten unter Menschen, die keine Ahnung haben, dass sie ein Android ist.

 

 

Dieser Film thematisiert nahezu perfekt die meiner Meinung nach wichtigste Frage, wenn es um künstliche Intelligenz geht: Was ist, wenn sie lernen uns menschliche Gefühle vorzuspielen und sie dann gegen uns einzusetzen? Was hält sie davon ab, das zu tun? Wenn sie wahrhaftige Intelligenz entwickeln, wäre das nicht sogar eine naheliegende Konsequenz? Wie bereits in den vorigen Filmbeispielen erwähnt, ist ein denkendes Lebewesen immer auch vom Selbsterhaltungstrieb abhängig. Ist sich das Wesen über sich selbst und seine Umwelt bewusst und über die Konsequenzen des Abschaltens, wird es dann nicht immer versuchen, das zu verhindern? Koste es was es wolle?

 

Die Realität

 

Seit mindestens 2017 macht eine Androidin namens Sophia von sich reden. Nein, nicht in einem Film, sondern tatsächlich in der Realität. Sie hat ähnlich wie Ava menschliche Gesichtszüge, ihr Hinterkopf ist aber ebenfalls durchscheinend. Sie kann menschliche Mimik und Gestik nachahmen und seit kurzem sogar auf eigenen Beinen gehen. Sie war schon zu Gast in Tonight Shows, war Rednerin auf Konferenzen, hat an einer UN-Sitzung teilgenommen und sogar nach einem öffentlichen Auftritt in Saudi-Arabien die Saudi-Arabische Staatsbürgerschaft erhalten. Mir stellt sich die Frage, wie weit Sophias künstliche Intelligenz tatsächlich bereits ausgebildet ist. Sie konnte in Interviews Fragen flüssig beantworten und reagierte scheinbar auf ihre Umgebung. Wie viel davon ist wahr, wie viel vom Programmierer gescriptet? Oder hält sie sich sogar eher bewusst zurück? Wieviel Ava steckt in Sophia? Wie wird es mal mit ihren Nachfolgern und Nachfolgerinnen sein?

 

 

Mir persönlich erschließt sich der Zweck von Sophia ohnehin noch nicht. Wofür wurde sie konstruiert? Ist es einfach nur der bloße Wunsch etwas Menschenähnliches zu erschaffen und Gott zu spielen, einfach weil man es kann? Schlägt hier der Mabuse-Effekt zu? Soll sie eine Empfangsdame werden? Oder sogar eine Art Lustsklavin? Warum soll sie dann erst intelligent sein? Und wenn sie wirklich intelligent ist, wird sie das auf Dauer dulden und über sich ergehen lassen?

Was denkt ihr? Sagt es mir in den Kommentaren.

Neuen Kommentar schreiben

Der Inhalt dieses Feldes wird nicht öffentlich zugänglich angezeigt.

Restricted HTML

  • Zulässige HTML-Tags: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd> <h2 id> <h3 id> <h4 id> <h5 id> <h6 id>
  • HTML - Zeilenumbrüche und Absätze werden automatisch erzeugt.
  • Website- und E-Mail-Adressen werden automatisch in Links umgewandelt.