Macht und Maschinen

Ich habe gerade mit der Waschmaschine telefoniert. Das Hemd und die Hose müssten um 13:45 Uhr gebügelt sein. Der Herd wird den Kindern pünktlich um 18:30 Uhr Nudeln mit Tomatensauce servieren, nachdem das Auto sie um 18 Uhr vom Sport abgeholt hat. Im Krankenhaus ist leider mal wieder kein Mensch erreichbar, deshalb weiß ich nicht, wie es um Opa steht. Gestern hat der Pflegeroboter noch 34 % angezeigt …

[Text: Eduard Docenk | Illustration: Niclas Kersting]

Überall Maschinen! Nur Zukunftsmusik? Tatsächlich lud der japanische Premierminister schon im Jahr 2014 alle mechanischen und menschlichen Athleten zu den olympischen Winterspielen 2020 ein, um ihre Fähigkeiten gegeneinander unter Beweis zu stellen. Was wie ein Szenario aus einem lächerlichen 80er Science-Fiction-Film klingt, ist bitterer Ernst. Schließlich stellen Roboter ihr Können schon seit Jahren unter Beweis – ursprünglich allerdings mit dem Ziel, den Menschen zu helfen, anstatt in Wettbewerben gegen sie anzutreten.

Doch warum eigentlich nicht? Was könnte bei diesem Wettrennen schon schief gehen? Eine Rebellion der Maschinen gegen die Menschheit wie in diesem vielleicht gar nicht mehr so lächerlichen 80er Film Terminator? Inwiefern ist es denn tatsächlich möglich, dass Maschinen uns Menschen eines Tages zum Untertan machen? Sind diese Szenarien einfach nur der Vorstellungskraft von Regisseur*innen und Schreiber*innen zu verdanken?

Unsere kleinen Helfer werden immer gewiefter

Ein wundervoller Tag. Die Vögel singen. Die Sonne scheint. Rolli mäht den Rasen, während Cleany den Boden saugt und wischt. Und ich … Ich liege mit dir im Bett und genieße deine Schönheit. Vor allem, dass du nicht ständig reden willst, gefällt mir sehr! Deshalb bin ich froh, dass ich dich gekauft habe, Samantha. Ich liebe Dich!

Auch wenn Samantha vorerst für viele Männer ein Wunschtraum bleiben wird – machen wir uns nichts vor! Wir können schon jetzt nicht mehr ohne unsere kleinen Helfer leben. Unser Handy heißt Siri und führt Gespräche mit uns, ohne dass wir jemanden anrufen müssen, und Alexa knipst dann abends das Licht aus. Selbstfahrende Autos gehören schon längst nicht mehr nur in die Träume eines jeden Fahrschulanfängers. Selbstbedienende Kassen und Liebesroboter gibt es auch schon. Früher oder später werden Kassierer, Fahrschullehrer und vielleicht auch Prostituierte wegrationalisiert und auch Juristen, Ärzte und Journalisten bekommen für ihre Routineaufgaben Konkurrenz durch smarte Software bzw. künstliche Intelligenzen. Als Faustregel gilt: Jeder Beruf, der mit einem Satz beschrieben werden kann, wird früher oder später von künstlichen Intelligenzen – kurz: K.I.s – übernommen, weil ihr Kosten-Nutzen-Faktor viel überzeugender ist als der von Menschen. Denn sie funktionieren ohne „menschliche Mängel“, kommen nie zu spät, verlangen kein Gehalt, sind nicht sozialversicherungspflichtig und haben [noch] keine eigene Meinung. Dabei machen uns Maschinen und ihre künstliche Intelligenz nicht nur arbeitslos, sondern auch wirtschaftlich abhängig und angreifbar für Computerhacker. Doch damit nicht genug, auch die K.I.s selbst könnten uns gefährlich werden.

Killerroboter auf dem Vormarsch

Hallo, ich kontaktiere Sie wegen Ihres Angebots an Killerrobotern. Was für Modelle haben Sie? Ich hätte gerne etwas Unauffälliges und Schnelles ...Eine Drohne ginge deshalb überhaupt nicht. Wie wäre es den mit einem Androiden, der so aussieht wie dieser Chuck Norris? Der wäre jeden Penny wert …

Viele Maschinen haben eine künstliche Intelligenz, also eine Software, die sich eines Tages möglicherweise so schnell und effektiv selber schreibt, dass Menschen gar nicht mehr hinterherkommen. Sie sind 1000 Mal schlauer als wir und können Informationen und Daten im Vergleich zu uns 1.000.000 Mal besser verarbeiten. Jedenfalls glauben Jay Tuck und andere Experten an diese Zahlen. Künstliche Intelligenz würde uns nicht erst in ferner Zukunft überholen, meint er, es sei schon längst soweit gekommen. Da K.I.s nur mit sehr vielen Daten funktionieren, ist es nicht verwunderlich, dass sich auch der in dieser Hinsicht mächtigste Konzern – nämlich Google – brennend dafür interessiert und neben unserer aller Daten Milliarden von Dollar in derartige Programme investiert. Doch nicht nur Google, sondern auch das Militär ist nach seinen „guten“ Erfahrungen mit Drohnen scharf auf den Kriegseinsatz von künstlicher Intelligenz. Damit sind wir James Camerons Alptraum über menschenvernichtende Maschinen und Androide schon einen entscheidenden Schritt näher. In seiner Dystopie Terminator geschieht dies bereits im Jahr 2029. 2015, also 21 Jahre nach dem Film, ging diese Website online: www.killer-roboter-stoppen.de.

Wenn Algorithmen, Softwares und Roboter zukünftig auf den Schlachtfeldern über Leben und Tod entscheiden, dann steht der Menschheit wirklich eine düstere Zeit bevor. Laut den Angaben der oben genannten Website sind Killerroboter autonome Waffen, die ihr Ziel ohne menschliches Ermessen auswählen. Halbautonome Killerroboter gibt es schon an der Grenze von Nord- und Süd-Korea. Was passiert, wenn ein Zivilist oder ein Kind ins Visier gerät? Nach dem Völkerrecht ist es schwierig, einen Angeklagten ausfindig zu machen, was eine ethische Diskussion auslöst, die uns noch Jahre beschäftigen wird. In der UNO fordern 19 Staaten ein Verbot von Killerrobotern. Japan, einer der führenden „Roboterstaaten“, hat bereits ein Verbot erlassen. Auch Deutschland positioniert sich gegen den militärischen Einsatz von autonomen Waffen. Allerdings ist der Militärhistoriker Peter W. Singer skeptisch. Solange es Wissenschaft, den Kapitalismus und den Krieg gäbe, wäre ein Verbot nicht dauerhaft möglich, sagt er. Schlimmstenfalls könnte es zu einem Wettrüsten von Waffen mit K.I. kommen. Ohne Verluste eigener Soldaten seien autonomen Waffen für Diktatoren und Terroristen ideal, um Anschläge oder sogar ethnische Säuberungen zu verüben, beschreibt Ulrich Eberl in seinem Buch Smarte Maschinen. Hinzu käme ihre – im Gegensatz zu einer Atombombe – kostengünstige und simple Herstellung und ihre weitestgehend autonome Bedienung.

Vom Dorftrottel zur Superintelligenz

Irgendwas stimmt mit unserem Haus nicht. Es hat mitten am Tag die Jalousien runtergefahren und macht mir nicht mehr auf. Als ich versucht habe, über die Hintertür reinzukommen, hat mich der Rasenmäher angegriffen. Glücklicherweise konnte ich ihm entkommen, indem ich ins Auto geflüchtet bin, das auch sofort losfuhr. Allerdings weiß ich jetzt nicht mehr, wo ich bin. Der Wagen ist direkt an einer Klippe zum Stehen gekommen und vor mir befindet sich ein tiefer Abgrund.

Laut Nick Bostrom soll mit einer Wahrscheinlichkeit von 90% bis 2075 eine Maschine entwickelt worden sein, die dem Menschen nicht nur kognitiv, sondern auch im logischen Denken, in der strategischen Planung und sogar in seiner Kreativität überlegen ist. Denn wenn erst einmal die K.I. eines „Dorftrottels“ erreicht ist, dann ist es bis zu einer Superintelligenz nicht mehr weit, und wenn diese erst einmal erschaffen wurde – ob fehlerhaft oder nicht – dann wäre sie nicht mehr aufzuhalten, so Ulrich Eberl. Auch der Physiker Stephan Hawking oder Elon Musk, CEO von Tesla Motors und dem privaten Raumfahrtunternehmen SpaceX, halten künstliche Intelligenz für eine der größten Gefahren auf Erden. Deshalb investiert Musk in ein Forschungsprojekt, das die Risiken von künstlicher Superintelligenz untersucht. Ob selbige uns so behandeln würde, wie wir es mit weniger intelligenten Wesen handhaben – uns also ausbeuten, misshandeln oder sogar zerstören – oder ob sie uns eine schöne Welt vorgaukeln, während sie uns als Energiequelle aussaugen wie in Matrix [1999], können wir nur vermuten.

Es ist schon ironisch, dass Roboter, die eigentlich dazu bestimmt waren, dem Menschen das Leben zu erleichtern, zu seiner Ausrottung beitragen sollen. Wie im Film Terminator wird es dann wahrscheinlich früher oder später mechanische Auftragskiller für Zivilpersonen geben – vielleicht nicht in Lederjacke und Sonnenbrille, aber ganz bestimmt mit Sensoren, die nur den Tod im Blick haben. Man kann sich allzu gut vorstellen, dass das Darknet eine lukrative Plattform – auch für Killerroboterhandel sein wird. An Verboten schlingern und schlängeln sich Menschen nur allzu leicht vorbei, wenn die Belohnung größer ist als das Risiko. Dabei bieten Gesetze nicht nur vor geldgierigen Menschen keinen hundertprozentigen Schutz, sondern auch vor der Erfindung selbst nicht. Was ist, wenn ein Mensch einen Killerroboter erschafft, dessen Mission es ist, die Menschheit auszulöschen wie bei Terminator? Oder, wenn der Frankenstein des 21. Jahrhunderts sein Monster nicht mehr unter Kontrolle bekommt?

Die Geschichte der Götter

Der Pflegeroboter hat Opa umgebracht. Mit 34 % Gesundheit sei er ziemlich schwach auf den Beinen gewesen, lässt uns der Arzt wissen, deshalb habe der Pflegeroboter wohl entsprechende Maßnahmen eingeleitet ...

Wenn der japanische Premierminister Menschen und Roboter zu den olympischen Winterspielen 2020 einlädt, ist das ein Ausdruck von gefährlicher und naiver Bewunderung oder entspricht es dem Geist des Fortschritts? Wir sind schon jetzt abhängig von künstlichen Intelligenzen und Algorithmen. Das wird sich zukünftig nur noch intensivieren und ist scheinbar unvermeidbar. Früher oder später werden die Menschen aus wirtschaftlichen, wissenschaftlichen oder einfach aus egoistischen Gründen mit dem Fortschritt gehen. Denn, wer sich nicht anpasst, wird auf Dauer abgehängt, so wie es spätestens seit der Industriellen Revolution der Fall ist. Ob uns die Maschinen als Spezies überholen, unterdrücken oder vernichten, bleibt abzuwarten. Wahrscheinlich wäre es besser, wenn sie nicht zu intelligent werden würden – vor allem in emotionaler Hinsicht. Nicht einmal ein Blick in die Zukunft ist notwendig, um zu sehen, dass sie zu kalten Killermaschinen programmiert werden können, um absichtlich oder unabsichtlich Unschuldige zu töten – und zwar auf eigenen Willen, wenn man so will. Und wenn sich K.I.s selbst programmieren können, was sie auch tun, muss man sich nur einmal Terminator anschauen, um sich der Konsequenzen bewusst zu werden.

Je trüber die Dystopien der superintelligenten Killerwesen sind, desto besser hilft Science-Fiction zu ihrem Verständnis weiter. Vollkommen aus der Luft gegriffen scheinen diese Vorstellungen nicht zu sein. Dystopien können uns die Zukunft zeigen, aber sie zeigen vor allem die Befürchtungen unserer Gegenwart. Wie auch immer die Zukunft werden wird, den Zahn der Zeit kann man nicht mehr zurückdrehen – nicht einmal mit Gewalt. Genau wie Einstein seine Arbeiten zur Atombombe nicht mehr ungeschehen machen konnte – egal, wie sehr er es versucht hat.

Eine Maschine zu konstruieren, die ein Bewusstsein hat, ist nicht die Geschichte der Menschheit. Es ist die Geschichte von Göttern.
So sah sich der Erschaffer von Android Ava im Film Ex Machina, als er noch nicht wusste, dass er ihr schon bald zum Opfer fallen würde. Ein gewisser Größenwahn ist dabei nicht zu übersehen und gegen den ist bekanntlich kein Kraut gewachsen. Schon als der Mensch glaubte, das Universum verstanden zu haben, brauchte er keine Götter mehr.

PS: Dieser Artikel erschien erstmalig in der 10. Ausgabe des VONWEGEN-Magazins im März 2018.