Besprechung für Maschinen wie ich
Der Ich-Erzähler Charlie, der sich – ohne Job – mit Börsenspekulationen im London der 1980er Jahre finanziell mehr schlecht als recht durchschlägt, investiert sein Erbe in einen sehr menschenähnlichen Roboter, Adam.
Er bittet seine Nachbarin Miranda, in die er verliebt ist, wie er mit einem gewissen Erstaunen realisiert, ihren Teil zur Programmierung von Adams Charakter beizutragen, mit dem Hintergedanken so mehr Zeit mit ihr zu verbringen und ihre Liebe zu gewinnen.
Adam erweist sich nützlich im Haushalt und beim Spekulieren. Er weiss sich aber auch der Kontrolle Charlies zu entziehen, den er am Handgelenk verletzt, als Charlie den «Aus»-Schalter in Adams Nacken betätigen will. Und: Adam verliebt sich in Miranda.
Miranda hat einen Mann ins Gefängnis gebracht, indem sie ihn bezichtigt, sie vergewaltigt zu haben; er hatte zuvor die beste (Schul-) Freundin Mirandas, Mariam, vergewaltigt, die aber die Tat vor ihrer pakistanischen Familie verheimlichen wollte. Als Mariam sich umbringt, rächt sich Miranda am Täter mit der Falschbeschuldigung.
Adam analysiert den Fall und kommt zum Schluss, dass Miranda für ihr Vergehen büssen muss. Er versteht nicht, warum Charlie und Miranda nicht zum selben Ergebnis kommen. In der Not setzt Charlie Adam mit einem Hammerschlag ausser Gefecht, aber Adam hatte die Beweise bereits an die Behörden abgesandt. Die von Miranda und Charlie geplante Adoption eines kleinen Knaben muss warten, bis sie ihre Strafe abgesessen hat.
Charlie händigt – Adams letzten Wunsch gemäss – die Roboterleiche Alan Turing aus. Von den 25 Robotern (13 Eves, 12 Adams), die in einer Serie produziert wurden, weist eine grosse Anzahl selbstzerstörerische Tendenzen auf. Turing diagnostiziert, dass die Maschinen nicht mit den Menschen zurechtkommen, sie verstehen die menschliche Entscheidungsfindung nicht, die in einem «Kraftfeld der Emotionen» zustande kommen. Die Maschinen verstehen die Menschen nicht, weil «wir uns selbst nicht verstehen.»
Turing war im wirklichen Leben ein genialer Mathematiker und Informatiker, der damals in England noch strafbaren homosexuellen Handlungen angeklagt sich einer chemischen Kastration unterzogen hatte, die zu Depressionen und schliesslich 1954 zum Suizid führte. Im Roman lebt Turing weiter, weil er statt der Kastration die Gefängnisstrafe auf sich nimmt, die ihm konzentriertes Arbeiten und anschliessend noch ein langes Leben ermöglicht; er trägt wesentlich zum raschen Fortschritt in der Computerisierung bei, Grundlage für die Generation der Roboter, der auch Charlies Adam angehört, die in McEwans Fiktion in den 1980er auf den Markt kommt.
Der nach dem Wissenschaftler benannte Turingtest spielt im Hintergrund des Romans eine Rolle: Wenn in einem Testinterview parallel ein Mensch und eine Maschine befragt werden und danach nicht entschieden werden kann, wer Mensch, wer Maschine ist, sollte man der Maschine ein dem Menschen ebenbürtiges Denkvermögen unterstellen (https://de.wikipedia.org/wiki/Turing-Test).
Wie also unterscheiden sich Mensch und Maschine?
Charlies Schwiegervater in spe verwechselt ihn mit dem Roboter Adam. Adam verliebt sich in und schläft mit Miranda (destilliertes Wasser aus einem Tank in der rechten Pobacke ermöglicht eine Erektion), er verfasst Haikus auf Miranda. Adam scheint Gefühle zu haben, währenddem Charlie bei sich gelegentlich eine «Leere» erkennt, oder einen «stimmungsneutralen Zustand».
Immer wieder stellt Charlie fest, dass er Dinge tut, für die er sich nicht bewusst entschieden hat. Hübsch verfremdet wird das illustriert durch die Episode, in der Charlie – nach Adams Attacke – seinen vom Gips befreiten Arm auf und ab bewegt, ein Taxifahrer die Geste falsch interpretiert, und Charlie aus Höflichkeit die 300 Meter bis nach Hause mit dem Taxi fährt. Ganz zum Ende des Romans heisst es: «Manchmal weiss der Körper früher als der Verstand, was zu tun ist.» Benjamin Libet hatte genau das in seinen berühmten Experimenten Ende der 1970er Jahre nachgewiesen (https://de.wikipedia.org/wiki/Libet-Experiment).
Ist unser Verstand ein Oberflächenphänomen, der freie Wille ein Missverständnis? Wir wissen zwar längst, dass unser Agieren nur als Ergebnis von komplexen, Körper und Mitwelt einbeziehenden Prozessen zu verstehen ist. Aber die im Roman thematisierte Grundproblematik bleibt aktuell: wie können wir menschenähnliche künstliche Intelligenz programmieren, wenn wir nicht in der Lage sind, Handlungsabläufe im Menschen selbst vollständig zu rekonstruieren?
Vielleicht könnte ein Roboter eher Mensch und komplex programmierte Maschine unterscheiden im Turingtest, als ein Mensch das könnte, weil der Roboter eher erkennt, wo der Mensch von einer programmierbaren Logik abweicht – der Roman lässt sich auf diese Pointe hin lesen.
Das Thema ist recht penetrant im Vordergrund, der Plot scheint streckenweise etwas aufgesetzt – Schwächen eines Thesenromans.
Eher befremdlich wirkt zunächst auch, dass McEwan im Hintergrund eine Gesellschaft entwirft, die sich in den 1980er Jahren mit erst im neuen Jahrhundert akuten Themen auseinandersetzt: Klimawandel, Plastikschwemme, Brexit (von linker Seite), Open Access, Künstliche Intelligenz. Im Roman hat Thatcher den Falklandkrieg verloren, und sie verliert von ihr selbst angesetzte Neuwahlen gegen den linken Labourführer Tony Benn, der dann von der IRA in den Tod gesprengt wird.
Ein merkwürdiges, in vielen Aspekten nicht mit der historischen Realität übereinstimmendes Panorama, das aber daran erinnert, dass eine gegebene Situation von Entscheidungen abhängig ist, die auch anders hätten ausfallen können. Indem er Fakt und Fantasie mischt und ein anachronistisches England zeigt, stellt der Roman die Frage nach den Gründen und Zufälligkeiten von Entwicklungen nicht nur auf der Ebene des Individuums.
((English Translation))
The first-person narrator Charlie, who – without a job – is struggling to survive financially with stock market speculations in London in the 1980s, invests his legacy in a very human-like robot, Adam. He asks his neighbor Miranda, with whom he is in love, as he realizes with a certain surprise, to do her part in the programming of Adam’s character, with the ulterior motive to spend more time with her and to win her love.
Adam proves useful in the household and in speculating. But he also knows how to escape the control of Charlie, whose wrist he injured when Charlie tries to press the „off“ switch on Adam’s neck. And: Adam falls in love with Miranda.
Miranda put a man in jail on charges of rape; he had previously raped Miranda’s best (school) friend, Mariam, who wanted to hide the crime from her Pakistani family. When Mariam kills herself, Miranda takes revenge on the perpetrator with the (in her case) false accusation.
Adam analyzes the case and comes to the conclusion that Miranda must pay for her offense. He doesn’t understand why Charlie and Miranda don’t come to the same conclusion. In an emergency, Charlie knocks Adam out of action with a blow of the hammer, but Adam had already sent the evidence to the authorities. Miranda and Charlie’s planned adoption of a little boy has to wait until she has served her sentence.
Charlie hands over – according to Adam’s last wish – the robot corpse to Alan Turing. Of the 25 robots (13 Eves, 12 Adams) that were produced in a series, a large number show self-destructive tendencies. Turing diagnoses that the machines cannot get along with people; they do not understand human decision-making, which comes about in a “force field of emotions”. The machines don’t understand people because „we don’t understand ourselves.“
In real life, Turing was a brilliant mathematician and computer scientist, who accused of then in England illegal homosexual acts had undergone chemical castration, which led to depression and ultimately to suicide in 1954. In the novel, Turing lives on, because instead of castration he accepts the prison sentence, which enables him to concentrate on work and then to live a long life; he contributes significantly to the rapid progress in computerization, the basis for the generation of robots, including Charlie’s Adam, who came onto the market in McEwan’s fiction in the 1980s.
The Turing test, named after the scientist, plays a key role in the background of the novel: If a person and a machine are questioned in parallel in a test interview and then it cannot be decided who is a person and who is a machine, the machine should be assumed to have a thinking ability that is equal to that of a person (https://de.wikipedia.org/wiki/Turing-Test). So how do humans and machines differ? Charlie’s future father-in-law confuses him with the robot Adam. Adam falls in love and sleeps with Miranda (distilled water from a tank in the right buttock enables an erection), he writes haikus on Miranda. Adam seems to have feelings, while Charlie occasionally sees himself as „empty“ or in a „moodless state“. Again and again Charlie finds that he is doing things that he has not consciously made up his mind. This is illustrated nicely by the episode in which Charlie – recovering from Adam’s attack – moves his arm, freed from the cast, up and down, and a taxi driver misinterprets the gesture, and Charlie drives the 300 meters home in a taxi out of courtesy.
At the very end of the novel it says: „Sometimes the body knows what to do earlier than the mind.“ Benjamin Libet had proven exactly that in his famous experiments at the end of the 1970s (https://de.wikipedia.org/wiki/Libet-Experiment). Is our mind a surface phenomenon, and free will a misunderstanding? We have known for a long time that our actions can only be understood as the result of complex processes that involve the body and the environment. But the basic problem addressed in the novel remains topical: how can we program human-like artificial intelligence if we are not able to completely reconstruct the course of action in humans? Perhaps a robot could more easily differentiate between humans and complex programmed machines in the Turing test than a human could, because the robot is more likely to recognize where humans deviate from a programmable logic – the novel can be read with this punchline in mind.
The topic is quite penetrating in the foreground, the plot seems to be a bit superimposed in places – weaknesses of a thesis novel. At first glance, it also seems rather strange that McEwan is describing a society in the 1980s struggling with issues really only of acute relevance today, such a climate change, plastic glut, Brexit (from the left in the novel), Open Access or Artifical Intelligence. In the novel, Thatcher has lost the Falklands War, and she loses elections that she herself had scheduled against the left Labor leader Tony Benn, who is then blown to his death by the IRA. A strange panorama, which in many aspects does not correspond to historical reality, but which reminds us that a given situation is dependent on decisions that could have turned out differently. By mixing fact and fantasy and showing an anachronistic England, the novel asks the question of the reasons and coincidences of developments not only on the level of the individual.
Reading the novel with my students, I found it strange how much they resisted the idea of Adam possessing consciousness. I very quickly stopped using terms such as „humanity“ – this, actually, is one of the problems in the novel, since the human characters fail to fulfil the requirements we set for ourselves (Nabokov’s famous „aware of being aware of being“). But I tried alternatives: is Adam a person? No, the students insisted, though with some reluctance creeping into their voices. And why not? Because he runs on an algorithm. Well, can we at least say that what he experiences is real – that he is real? No, they answered once again – all this is merely simulation. And I remembered my otherwise very sweet friends swearing at the GPS in their car. Adam is not organic, therefore he is not real, his feelings cannot be real – they are not natural. But how can you tell? And they grudgingly admitted that Adam would have passed the Turing test, and yet they refused to accept his reality. In a way, I felt this reflected my own unease about neuroscience: if someone can know exactly how feelings, emotions, thoughts appear and the chemistry that causes them, it is difficult for me to keep faith in humanity as something unmechanistic, and therefore beautiful.
There is some foundamental hostility in us towards machines, especially machines that display signs of consciousness. Is it the same kind of unease that Borges saw in Shakespearean actor/spectator relationship – if there is a play within the play, and the characters of the play sit down to watch a performance and become the spectators it may suggests that we, the actual spectators might be fictional as well? The idea that the machine can have a consciousness reflects back at me the idea that perhaps mine own is… mechanical.