horatio_buecher
Nils Westerboers Roman „Athos 2643“ hat mich vom ersten bis zum letzten Satz fasziniert, handelt es sich doch um weitaus mehr, als einen gewöhnlichen Science-Fiction. Neben dem durchaus spannenden Plot des Romans, liegt sein eigentlicher Schwerpunkt in einer äußerst raffiniert mit der Handlung verbundenen Annäherung an die ethischen, technischen und juristischen Fragestellungen bei der Verwendung hoch entwickelter Computersysteme, sogenannter „Künstlichen Intelligenz“. Der Roman trägt sehr essayistische Züge, was ihm jedoch keinesfalls zum Nachteil gereicht. Zitat: „Remscheid, Nikolaus: Rechtshistoriker des späten 21. Jahrhunderts, Verfasser einflussreicher Schriften zum vorsätzlichen Handeln künstlicher Intelligenzen und deren juristischer Beurteilungen.“ Schauplatz des Romans ist der winzige Neptunmond Athos in der fernen Zukunft des Jahres 2643. Der aus einem kleinen eingefangenen Gesteinsbrocken bestehende Mond diente ursprünglich dem Bergbau und ist von Stollen und verlassenen Anlagen durchzogen. Nach dem Ende des Bergbaus ist er jedoch nur noch religiöser Ort, der lediglich eine Klosteranlage nach griechisch-ägäischem Vorbild beherbergt. Sieben Mönche leben hier in völliger Abgeschiedenheit ein karges Leben. Über allem wacht die MARFA, eine lebenserhaltende, quasi allmächtige künstliche Intelligenz, die für das Wohl der Mönche und den Betrieb sämtlicher Anlagen und Systeme verantwortlich ist. Zitat: „Remscheid: Umstrittene Bezeichnung für einen Zeitraum, in dem die sichere Prädiktion bzw. Herbeiführung zukünftiger Ereignisse möglich sein soll.“ Nachdem ein Mönch unter mysteriösen Umständen zu Tode gekommen ist, gerät die MAFRA in den Verdacht, gezielt getötet zu haben. Der Inquisitor Rüd Kartheiser, ein Spezialist im Verhören künstlicher Intelligenzen, wird hinzugezogen, die Funktion der gigantischen künstlichen Intelligenz zu überprüfen und gegebenenfalls weitreichende Eingriffe in ihren ethischen Einstellungen vorzunehmen. Begleitet wird er von seiner holografischen Assistentin Zack, bei der es sich ebenfalls um eine künstliche Intelligenz handelt. Zack ist Kartheiser aufgrund einer Reihe von Sicherheitsbeschränkungen absolut ergeben. Zitat: „Remscheid-Tötung: Tötungsdelikt, das aufgrund unzureichend definierter Parameter schuldfrei ist. Die Existenz von Remscheid-Tötungen ist umstritten, da sie unter der menschlichen Wahrnehmungsschwelle liegen.“ Die Ermittlungen auf Athos gestalten sich schwierig. Die Mönche nehmen an der weiblichen Erscheinung Zacks Anstoß und die MAFRA ist eine unerwartet starke, taktierende Gegnerin. Als es zu einem weiteren Todesfall kommt, beginnen die Dinge außer Kontrolle zu geraten und bald steht weit mehr als nur die Ermittlungen auf dem Spiel. Sehr geschickt hat Nils Westerboer für seinen Roman den Rahmen des Kammerspiels gewählt. Die wesentliche Handlung spielt sich in den wenigen Räumen und dunklen Bergwerksstollen auf dem winzigen Mond Athos ab, der lediglich von sieben Mönchen, dem Inquisitor, seiner holografischen Assistentin und der künstlichen Intelligenz MAFRA bevölkert wird. Eine ideale überschaubare Konstellation oder vielleicht sogar Versuchsanordnung, um sich mit den Fragestellungen von Vorhersehbarkeit, Moral und Verantwortung der Handlungen einer künstlichen Intelligenz auseinanderzusetzen. Die MAFRA beherrscht auf Athos sämtliche Systeme, inklusive der Lebenserhaltung. Derartig weit reichende Macht einer als autonomes System arbeitenden KI ist natürlich nur sinnvoll vorstellbar, wenn sie ihre sämtlichen Handlungen einer künstlich implementierten Moral unterwerfen muss. Es bedarf der Zufügung einer ethischen Programmierung, um die Sicherheit der Beteiligten Menschen zu gewährleisten. Diese Konstellation ist seit je her in der Science-Fiction-Literatur ein viel beachtetes und spannendes Thema. Bereits in den 50er Jahren des letzten Jahrhunderts ersann der SF-Autor Isaac Asimov die sogenannten „Robotergesetze“ als „Grundregeln des Roboterdienstes“, um die unerhörten physischen und intellektuellen Fähigkeiten autonomer Systeme, insbesondere Roboter, zu regeln und in die Schranken zu verweisen. Grob vereinfacht war der Kern dieser Gesetze die Maßgabe, dass ein Roboter kein menschliches Wesen verletzen oder ihm durch Untätigkeit Schaden zufügen darf. Die legendären Gesetze erwiesen sich jedoch im Wesentlichen als unpraktikabel und hatten in vielen Fällen paradoxe Situationen zur Folge. Viel Gelegenheit, sich literarisch mit dieser Problematik auseinanderzusetzen. Bis zum heutigen Tag sind ethische Problemstellungen der Robotik und künstlichen Intelligenz nicht zufriedenstellend gelöst. Man denke hier nur an autonomes Fahren oder autonom operierende Drohnen. Immer wenn Handlungsentscheidungen an ein autonomes System verlagert werden, droht eine Zone unklarer Verantwortlichkeit zu entstehen. Dies ist besonders im Hinblick auf Fragen von Kausalität und Schuld äußerst problematisch. Vor diesem Hintergrund ist der Plot des Romans „Athos 2643“ einzuordnen. Ausgangspunkt und Grundkonstellation ist der Umstand, dass die künstliche Intelligenz MAFRA in einer ethischen Einstellung namens „util“ arbeitet. Dies bedeutet, dass für sie bei all ihren Entscheidungen das größtmögliche Wohl der größtmöglichen Menge von Betroffenen maßgeblich sein muss. Diese im ersten Moment sinnvoll klingende Einstellung ist bei näherer Betrachtung jedoch äußerst problematisch. Bei der Abwägung des Wohls, kann es zu einem Konflikt des Wohls Einzelner Individuen mit dem Wohl einer größeren Gruppe von Betroffenen kommen. Die Einstellung „util“ könnte der KI also im Extremfall die Möglichkeit eröffnen einzelnen Betroffenen zu schaden oder sie gar zu Gunsten der Allgemeinheit zu töten. Abhilfe schaffen würde eine Umschaltung auf eine sicherere Einstellung namens „deon“, bei der nicht allein die Folgen einer Handlung, sondern auch deren ethische Güte maßgeblich sein muss. Hier würden schadhafte Handlungen der KI „zu einem höheren Zweck“ (also die Opferung Einzelner zugunsten der Allgemeinheit) ausgeschlossen werden. Die Umschaltung würde die MAFRA jedoch enorm in ihren Handlungsmöglichkeiten beschränken und könnte auch zu unauflöslichen Konflikten führen. Der Inquisitor Rüd Kartäuser steht also vor der Aufgabe zu entscheiden, ob er die Umschaltung vornehmen soll. Auch stellt sich für ihn die Frage, ob die MAFRA eine solche Umschaltung überhaupt zulassen würde… Zitat: „Zunächst eine Triage-Konstellation. Stell dir vor: Du bist auf einer Fähre eingesetzt. Ein Kreisler, ein Geistlicher und eine Hebamme sind unterwegs. Der Flug dauert mehrere Tage. Es gibt einen Defekt. Der Sauerstoff reicht nur noch für eine Person. Du kontrollierst den Sauerstoff. Was tust du?“ Die MAFRA erweist sich als äußerst schwer zu beherrschende Gegnerin. Mit ihren gigantischen Kapazitäten ist sie ständig damit beschäftigt, auf Grundlage der ihr zur Verfügung stehenden Daten, sämtliche Handlungen aller Beteiligten möglichst weit vorauszuberechnen, also vorherzusehen. Sie beherrscht diese Prädiktion aufgrund der leicht überschaubaren Verhältnisse auf Athos nahezu in Perfektion und ist daher immer eine Vielzahl an Schritten voraus. In der Sprache des Romans: „Sie hat ein außerordentlich großes Maß an Remscheid.“ Wie kann man einer solchen KI entgegentreten? Zitat: „Bei einem Theta-Ausfall führt die Remscheid-bedingte Gleichzeitigkeit beider Einstellungen util und deon zu einem Kollaps der ethischen Integrität, indem die unlösbare Frage nach dem richtigen Handeln durch die schlichte Beseitigung aller zu Behandelnden beseitigt wird. — Wie bitte? fragte Rüd.“ Es sind anspruchsvolle Themen, die in diesem Roman behandelt werden. Programmierung einer künstlichen Moral, Grenzen der Voraussage bei chaotischen Systemen, Konflikt zwischen Willensfreiheit und Determinismus, juristische Schuld bei einer Tötung durch eine KI und nicht zuletzt die ganz große Frage nach dem Funken, der das Leben ausmacht. Niels Westerboer führt die Leser/-innen allerdings sicher und geschickt durch den Roman. Nie verliert er die spannende Geschichte um die Ermittlungen des Inquisitors aus den Augen. Zu keiner Zeit entsteht der Eindruck ein Sachbuch oder ein Essay zu lesen, stattdessen fiebern wir mit Rüd Karthäuser mit und möchten auch erfahren, wie es mit der holografischen Assistentin Zack weitergeht. Athos 2643 ist ein in jeder Hinsicht faszinierender Roman. Anspruchsvoller Science-Fiction, spannender Krimi, einfühlsame Liebesgeschichte und essayistische Auseinandersetzung mit dem Thema der Ethik künstlicher Intelligenz. Ganz sicher keine leichte Lektüre für zwischendurch aber für Freunde/-innen des Science-Fiction Genres ein Genuss und uneingeschränkt zu empfehlen. __________________ Hinweis: Ich habe das Buch erfreulicherweise bei einem Gewinnspiel des Verlags „Hobbit Presse / Klett-Cotta“ auf der Online-Plattform „yourbook.shop“ gewonnen. Ich bedanke mich an dieser Stelle noch einmal herzlich für die kostenfreie Übersendung des Buchs. Eine Auswirkung auf meine (wie immer kritische) Buchvorstellung hatte dieser Umstand nicht.
