Maschine

1. Einführung

Die Relevanz der mit dem Lemma „Maschine“ verbundenen Thematik für den theologischen Diskurs ist erst in jüngster Zeit offensichtlich geworden. In älteren theologischen Werken werden Maschinen hingegen, wenn überhaupt, nur im Zusammenhang mit Fragen der Technikethik behandelt. Die gegenwärtigen Debatten um Künstliche Intelligenz, maschinelles Lernen und nicht zuletzt die Etablierung der Maschinenethik als eigenes bereichsethisches Feld haben dazu geführt, dass auch Theolog*innen sich verstärkt mit der Frage beschäftigen, welche lebensweltliche Relevanz die Interaktion zwischen Mensch und Maschine besitzt.

Für den vorliegenden Artikel bedeutet dies, dass ein deutlicher Schwerpunkt auf den Entwicklungen seit dem Ende des 20. Jahrhunderts liegt. Nach grundlegenden begrifflichen Klärungen (2.) werden daher in den beiden Hauptteilen des Artikels Themenkomplexe behandelt, die sich erst der jüngeren theologischen und philosophischen Debatte verdanken: Die Maschinenethik als neue Bereichsethik (3.) sowie die Frage nach der religiösen Bedeutung hochkomplexer Maschinen (4.).

2. Begriffliche Klärungen

Die Definition des Begriffs Maschine ist keineswegs trivial. Häufig zitiert wird in diesem Zusammenhang die EG-Maschinenrichtlinie. In vereinfachter Form ist eine Maschine demnach „eine für eine bestimmte Anwendung miteinander verbundene Gesamtheit von beweglichen Teilen oder Vorrichtungen“.¹So die Zusammenfassung der komplexeren EG-Richtlinie unter https://www.fz-juelich.de/de/pgi/pgi-ta/leistungen/ce-kennzeichnung-von-maschinen/definition-maschine, abgerufen am 13.09.2024. Die komplette Formulierung der EG-Maschinenrichtlinie vom 17. Mai 2006 ist abrufbar unter https://eur-lex.europa.eu/eli/dir/2006/42/oj, abgerufen am 13.09.2024. Die Bewegung muss dabei durch externe oder gespeicherte Energie erfolgen und mindestens ein Teil der Maschine muss beweglich sein. So intuitiv einleuchtend diese Definition ist, kommt sie dort an ihre Grenzen, wo es um abstrakte Maschinen geht. Das beste Beispiel hierfür ist die sog. Turing-Maschine, bei der es sich nicht um einen konkreten physischen Apparat handelt, sondern um ein theoretisches Modell.²Vgl. Turing, Alan M., Computing Machinery and Intelligence, in: Mind 59/236 (Oct. 1950), 433–460.

Statt immer neue Definitionsversuche vorzunehmen, scheint es daher angemessen, die Funktionsweise des Begriffs Maschine mit Ludwig Wittgensteins  Modell der Familienähnlichkeit zu erklären.³Vgl. Wittgenstein, Ludwig, Philosophische Untersuchungen, in: Ders., Schriften, Frankfurt a. M. 1960, 278–543, hier 324f. [Abschnitt 67]. Das klassische Beispiel hierfür ist der Begriff „Spiel“: Es gibt keine Gemeinsamkeiten, die allen Spielen eignen (etwa, dass sie mit Würfeln gespielt werden). Dennoch sind alle Spiele durch eine Kette von Eigenschaften verbunden. Ein Spiel A teilt keine Eigenschaft mit einem Spiel C, wohl aber haben beide Spiele bestimmte Eigenschaften mit einem Spiel B gemeinsam, so dass A und B, ohne eine gemeinsame Eigenschaft zu besitzen, dennoch miteinander „verwandt“ sind. Analog gibt es keine bestimmte Menge von Merkmalen, die auf alle Maschinen zutreffen. Stattdessen kann man Ähnlichkeiten zwischen verschiedenen Maschinen feststellen, die diese begrifflich miteinander verbinden (orientiert z. B. an denjenigen Eigenschaften, die in der EG-Maschinenrichtlinie genannt werden).

Nicht weniger umstritten ist der für die gegenwärtige Beschäftigung mit Maschinen relevante Ausdruck der Künstlichen Intelligenz. Je nachdem, welcher Begriff von Intelligenz zugrunde liegt, wird entweder bestritten, dass Maschinen überhaupt intelligent sein können, oder die Meinung vertreten, dass maschinelle Intelligenz menschlicher Intelligenz gleichkommt oder diese sogar überflügelt. Diese intensiv geführten Debatten sind Gegenstand der Philosophie des Geistes und der Kognitionswissenschaften.⁴Vgl. Misselhorn, Catrin, Grundfragen der Maschinenethik, Stuttgart ³2019, 30–45. Parallel zur Unterscheidung zwischen physischen und abstrakten Maschinen (s. o.) muss ferner zwischen verkörperten und rein digitalen Formen von Künstlicher Intelligenz differenziert werden. Nicht alle Formen von Künstlicher Intelligenz besitzen ein physisches Pendant; bereits ein komplexer Algorithmus kann zum schwer abgrenzbaren Phänomenbereich der Künstlichen Intelligenz gezählt werden. Eine letzte begriffliche Klärung betrifft den Begriff des Roboters. Diese ist vor allem deshalb relevant, weil teilweise ambigue von Maschinen- oder Roboterethik gesprochen wird. Der Begriff des Roboters geht auf das tschechische Theaterstück „R.U.R. (Rossumovi Universálni Roboti)“ von Karel Čapek  zurück. In diesem Stück  geht es um eine Firma, die menschenähnliche Roboter als Arbeiter einsetzt.⁵Vgl. Čapek, Karel, W.U.R. Werstands Universal Robots. Utopistisches Kollektivdrama in 3 Aufzügen (übersetzt von Otto Pick), Prag/Leipzig 1922. Abermals sind die begrifflichen Grenzen hier unscharf. Im Alltagsgebrauch werden als Roboter meist anthropomorphe Maschinen bezeichnet. Es scheint aber sinnvoll, im Falle von anthropomorphen Maschinen eher von Androiden als allgemein von Robotern zu sprechen, da es auch Wirtschaftsroboter gibt, die keine Ähnlichkeit mit Menschen aufweisen.

3. Maschinenethik

Die Etablierung der Maschinenethik als eigenständige Disziplin kann als Reaktion darauf verstanden werden, dass die Fortentwicklungen auf dem Gebiet der Künstlichen Intelligenz die Frage aufgeworfen haben, ob Maschinen selbst ethisch relevante Entscheidungen treffen können.⁶Vgl. Bendel, Oliver, Die programmierte Moral, in: Woppen, Christian/Jannes, Marc (Hrsg.), Roboter in der Gesellschaft. Technische Möglichkeiten und menschliche Verantwortung, Berlin 2019, 32–52, 39. Catrin Misselhorn  nennt als alltagspraktisches Beispiel einen Staubsaugerroboter, der die tierethische Entscheidung treffen muss, ob er eine Spinne tötet oder nicht.⁷Vgl. Misselhorn, Grundfragen, 8f. Der wesentliche Unterschied zur klassischen Technikethik besteht mithin darin, dass in der Maschinenethik Maschinen selbst zu moralischen Agenten  werden.⁸Vgl. Misselhorn, Grundfragen, 8f. Zur Technikethik aus theologischer Perspektive ist immer noch grundlegend: Gräb-Schmidt, Elisabeth, Technikethik und ihre Fundamente. Dargestellt in Auseinandersetzung mit den technikethischen Ansätzen von Günter Rophol und Walter Christoph Zimmerli, Berlin 2002.

Eine zentrale und umstrittene Frage der Maschinenethik ist dabei, ob es überhaupt sinnvoll ist, Maschinen als moralische Subjekte zu betrachten. Dabei wird häufig zwischen verschiedenen Typen moralischer Agenten unterschieden, von full ethical agents bis zu solchen Entitäten, die nur als Objekte für die Ethik relevant sind.⁹Vgl. zu den verschiedenen Typen moralischer bzw. ethischer Agenten Moor, James H., The Nature, Importance, and Difficulty of Machine Ethics, in: Anderson, Susan Leigh/Anderson, Michael (Hrsg.), Machine Ethics, Cambridge ²2018, 13–20.  Eine zweite zentrale Frage der Maschinenethik ist die nach der sogenannten Moralimplementation.¹⁰Vgl. Misselhorn, Grundfragen, 13–20. Sollen Maschinen ethisch relevante Entscheidungen treffen, müssen sie dies aufgrund eines einprogrammierten moralischen Kodex tun. Ein klassisches Beispiel hierfür sind die Robotergesetze Isaac Asimovs :

1. Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit (wissentlich) zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.
2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.¹¹Asimov, Issac, Meine Freunde die Roboter, München 1982, 67.

Dass dieser sehr basale moralische Kodex für komplexe Situationen wie etwa Kriegseinsätze nicht ausreicht, ist kaum zu bestreiten. Strittig ist vielmehr, ob es überhaupt sinnvoll ist, Maschinen eine Moral einzuprogrammieren oder ob dieser Versuch nicht vielmehr einen Angriff auf den Menschen als ethisches Subjekt darstellt.¹²Vgl. Precht, Richard David, Vom Irrsinn, Maschinen Ethik einzuprogrammieren, 23.11.2018 (https://www.spiegel.de/plus/richard-david-precht-vom-irrsinn-maschinen-ethik-einzuprogrammieren-a-00000000-0002-0001-0000-000160960485), abgerufen am 17.09.2024. Unter den Befürworter*innen der Moralimplementation ist wiederum umstritten, welche Moral Maschinen einprogrammiert werden sollte – etwa eine kantianische, am Kategorischen Imperativ orientierte Ethik oder eine bestimmte Spielart des Utilitarismus.¹³Vgl. Misselhorn, Grundfragen, 90–118; Grau, Christopher, There is no „I“ in „Robot“. Robots and Utilitarianism, in: Anderson, Susan Leigh/Anderson, Michael (Hrsg.), Machine Ethics, Cambridge ²2018, 451–463; Powers, Thomas M., Prospects for a Kantian Machine, in: Anderson, Susan Leigh/Anderson, Michael (Hrsg.), Machine Ethics, Cambridge ²2018, 464–475.

Neuerdings wird von theologischer Seite erwogen, Maschinen göttliche Gebote als handlungsleitende Maximen einzuprogrammieren.¹⁴Vgl. Bringsjord, Selmer/Taylor, Joshua, The Divine-Command Approach to Robot Ethics, in: Lin, Patrick et al. (Hrsg.), Robot Ethics. The Ethical and Social Implications of Robotics, Cambridge 2011, 85–108. Dagegen kann aber eingewandt werden, dass das hier vorausgesetzte Verständnis christlicher Ethik selbst hochproblematisch ist. Eine biblizistische Ethik lässt sich in jedem Fall weit eher einprogrammieren als die „Freiheit eines Christenmenschen“ .¹⁵Vgl. Klinge, Hendrik, Jenseits des Personalismus. Maschinenethik als theologische Herausforderung, in: ZEE 65/1 (2021), 31–45, 40f. Gerade die theologische Ethik lässt daher die Frage aufkommen, ob gängige maschinenethische Ansätze nicht eine Überforderung darstellen; wirkliche ethische Entscheidungskompetenz liegt jenseits des „Maschinenmöglichen“. Statt Maschinen als full ethical agents in Anspruch zu nehmen, ist es m. E. sinnvoller, sie als Hilfssysteme in ethischen Fragen anzusehen.

Aufgrund dieser Überlegungen ließe sich dann auch die schwierige Frage, ob hochintelligenten Maschinen Rechte zugestanden werden sollten, zumindest annäherungsweise beantworten. Wenn diese Maschinen als reine Hilfssysteme begriffen werden, kann ihnen zumindest kein voller Status als moralische Akteure zugebilligt werden, woraus wiederum folgt, dass sie auch keine entsprechende Rechte besitzen. Wohl könnte ihnen aber ein abgestufter Rechtsstatus zugestanden werden, entsprechend ihrem geringeren Akteursstatus. Selbst Wesen, die gar keine moralischen Akteure sind, können Rechte besitzen, allerdings nicht dieselben wie full ethical agents. Ob eine Entität als moralischer Akteur angesehen werden kann, ist dabei keine schlichte Entweder-Oder-Entscheidung; die Rede von moralischen Akteuren erlaubt Zwischenstufen. Es erscheint daher sinnvoll, ähnliche Abstufungen auch in Bezug auf Rechte vorzunehmen.

4. Maschinen und Religion

Eine wesentliche theologische Relevanz besitzt die Entwicklung hochkomplexer Maschinen deshalb, weil sie das traditionelle Menschenbild infrage stellen. Bereits im 18. Jahrhundert hat der französische Materialist Julien Offray de la Mettrie  (1709–1751) die These vertreten, dass der Mensch selbst eine Maschine sei („que l’Homme est une Machine“).¹⁶La Mettrie, Julian Offray de, L’Homme machine/Der Mensch eine Maschine. Französisch/Deutsch (übersetzt von Theodor Lücke), Stuttgart 2015, 160. Die damit verbundenen Fragen nach Willensfreiheit und Zurechenbarkeit sind auch für die Theologie von eminenter Bedeutung.

Die gegenwärtigen Entwicklungen auf dem Gebiet der Künstlichen Intelligenz stellen die Theologie indes vor noch weit größere Herausforderungen. Das durch Ray Kurzweil  popularisierte Konzept der Singularität, i. e. einer dem Menschen weit überlegenen technischen Intelligenz, weist eindeutig religiöse Signaturen auf.¹⁷Vgl. Kurzweil, Ray, The Singularity is Near, London 2006, v. a. 370–376. Die Befürchtungen, die teilweise angesichts der rasanten Entwicklung von Quantencomputern und Künstlicher Intelligenz geäußert werden, besitzen häufig ein apokalyptisches Gepräge.

Wichtiger noch als diese unterschwellig religiösen Motive, die im gegenwärtigen Diskurs um hochkomplexe Maschinen mitschwingen, sind die Folgen für die Anthropologie, die die Theologie nicht weniger betreffen als die Geistes- und Sozialwissenschaften. Die traditionelle Theologie ist stark anthropozentrisch ausgerichtet. Seit der Mitte des letzten Jahrhunderts wurde dieser Anthropozentrismus vor allem durch Arbeiten auf dem Gebiet der Tierethik erschüttert.¹⁸Vgl. Körtner, Ulrich, Bioethik nichtmenschlicher Lebensformen, in: Huber, Wolfgang et al. (Hrsg.), Handbuch der Evangelischen Ethik, München 2015, 585–647, hier 601–605.

Die gegenwärtigen Debatten um die Künstliche Intelligenz sind ein weiterer Beleg dafür, dass die Welt, welche die Theologie als Schöpfung Gottes deutet, „more than human“ ist.¹⁹Vgl. dazu den Sammelband Jaque, Andrés et al. (Hrsg.), More-than-Human, Rotterdam 2020. Zudem verbindet sich mit der Künstlichen Intelligenz die Frage, ob der Mensch wirklich die Krone der Schöpfung sei oder nicht auch er einst durch eine überlegene (nunmehr technologische) Spezies abgelöst werde. Gerade im theologischen Bereich sind Diskussionen um hochkomplexe Maschinen daher meist mit der Debatte um den Trans- und Posthumanismus verknüpft.²⁰Vgl. dazu exemplarisch Helmus, Caroline, Transhumanismus – der neue (Unter-)Gang des Menschen? Das Menschenbild des Transhumanismus als Herausforderung für die Theologische Anthropologie, Regensburg 2020 sowie Puzio, Anna, Über-Menschen. Philosophische Auseinandersetzung mit der Anthropologie des Transhumanismus, Bielefeld 2022.

Eine letzte Frage betrifft die religiöse Signifikanz von Robotern. Dabei können zwei Fragerichtungen unterschieden werden: Einmal wird danach gefragt, ob Roboter oder andere hochkomplexe Maschinen irgendwann ein Entwicklungsstadium erreichen können, in dem sie selbst zu religiösen Subjekten werden. Sodann wird die Frage danach gestellt, ob Maschinen religiöse Erfahrungen vermitteln oder eine andere dezidiert religiöse Funktion im Kontext organisierter Religionen oder auch freier Formen von Religiosität übernehmen können.

Die erste dieser Fragen wird fast durchgehend negativ beantwortet. Einer der wenigen Autoren, der Robotern und anderen Maschinen prinzipiell zuschreibt, religiöse Überzeugungen ausbilden zu können, ist Stanisław Lem .²¹Vgl. Lem, Stanisław, Summa Technologiae. Minneapolis/London 2013 (orig. 1964), 125–129. Allerdings ist dies bei ihm nur möglich, weil er Metaphysik und Religion verwechselt.²²Vgl. Klinge, Personalismus, 43f. Obwohl die Debatte noch am Anfang steht, scheinen die meisten Autor*innen davon auszugehen, dass selbst hochintelligente Maschinen niemals religiös sein können. Analog zum berühmten Turing-Test, der überprüfen soll, ob eine Maschine ein dem Menschen vergleichbares Denkvermögen besitzt, wurde auch ein theologischer Turing-Test entwickelt, der eindeutig negativ ausfällt.²³Vgl. Klinge, Hendrik, Do Robots Believe in Electric Gods? Introducing the Theological Turing Test, in: Puzio, Anna et al. (Hrsg.), Alexa, wie hast du’s mit der Religion? Theologische Zugänge zu Technik und Künstlicher Intelligenz, Darmstadt 2023, 115–131.

Anders zu bewerten ist die Frage, ob Maschinen religiöse Erfahrungen vermitteln können. Anna Puzio  verweist etwa auf Vanitas-Erfahrungen im Zusammenhang mit Technologie.²⁴Vgl. Puzio, Anna, Robot Theology. On Theological Engagement with Robotics and Religious Robots, in: Puzio, Anna et al. (Hrsg.), Alexa, wie hast du’s mit der Religion? Theologische Zugänge zu Technik und Künstlicher Intelligenz, Darmstadt 2023, 95–113. In eine ähnliche Richtung geht die sog. „Robot-Theology“, die weniger nach der Religion der Roboter selbst fragt als danach, welche religiösen Erfahrungen mit der Interaktion zwischen Menschen und hochintelligenten Maschinen verbunden sind.²⁵Einen Überblick über die Roboter-Theologie verschafft der Band Wyatt, John/Williams, Stephen N. (Hrsg.), The Robot Will See You Now. Artificial Intelligence and the Christian Faith, London 2021. So konzentriert sich Joshua K. Smith  auf die Frage, ob Freundschaft zwischen Menschen und Robotern möglich sei.²⁶Vgl. Smith, Joshua K., Robot Theology. Old Questions through New Media, Eugene, OR 2022, v. a. 78–98.

Für die praktische Arbeit der Kirchen stellt sich damit auch die Frage, ob Roboter und andere hochkomplexe Maschinen in das religiöse Leben einbezogen werden sollten. Ein kontroverses Beispiel hier ist der Segensroboter BLESSU-2.²⁷Vgl. https://www.theology.de/skurriles/der-segensroboter-blessu-2.php, abgerufen am 17.09.2024. Auch wenn der oder die „Roboter-Pfarrer*in“ wohl eine Ausgeburt der Science-Fiction bleiben wird, müssen Pfarrpersonen und Kirchleitende in Zukunft entscheiden, inwieweit sie hochintelligenten Maschinen Funktionen innerhalb des kirchlichen Handelns übertragen wollen. Besonders virulent sind diese Fragen durch die Entwicklung textgenerierender Programme wie ChatGPT geworden.²⁸Zur theologischen Bedeutung textgenerierender Programme vgl. Klinge, Hendrik, „Schreibe mir eine heilige Schrift!“ Das Schriftprinzip im Zeitalter der Künstlichen Intelligenz, in: Schreiber, Gerhard/Ohly, Lukas (Hrsg.), KI: Text. Diskurse über KI-Textgeneratoren, Berlin 2024, 147–167. Diese stellen für die Kirche des Wortes insofern eine besondere Herausforderung dar, als „sprechende Maschinen“ eine dritte Instanz neben dem sprechenden Gott (Deus loquens) und dem „sprechenden Tier“, das der Mensch ist, darstellen. Die Debatte um die theologische Bedeutung textgenerierender Programme steht aber erst am Anfang und überschreitet zugleich den engeren Themenbereich dieses Artikels.