Der Papst, die Maschine und die Frage nach dem Herz

// von Markus Langemann

Es geschehen Dinge in diesen Tagen, die sich der schnellen Einordnung entziehen. Am Pfingstmontag, im neuen Synodensaal des Vatikans, stand Papst Leo XIV. selbst vor seiner ersten Enzyklika – ein Novum für die Kirche: Kein Kurienkardinal verlas, kein Pressesprecher übersetzte. Der Pontifex sprach. Neben ihm: Christopher Olah, kanadischer Informatiker, 33 Jahre, Mitgründer von Anthropic, einem der drei großen amerikanischen KI-Laboratorien. Das Bild allein ist eine Mitteilung. Die ältere aller Institutionen und die jüngste aller Technologien, an einem Mikrofon, in zwei Stunden Zeremonie.

Das Dokument trägt einen Titel, der die Richtung schon im Klang trägt: Magnifica Humanitas. Großartige Menschheit. Mehr als hundert Seiten, beginnend mit dem Satz, die von Gott geschaffene großartige Menschheit stehe heute vor einer entscheidenden Wahl – entweder errichte sie einen neuen Turm zu Babel oder sie erbaue die Stadt, in der Gott und die Menschheit gemeinsam wohnen. Eine Antrittsenzyklika ist im Vatikan, was anderswo eine Regierungserklärung wäre. Sie zeigt an, woran der Pontifikat gemessen werden will. Leo XIV. hat sich, das ist nun klar, an der Künstlichen Intelligenz messen lassen wollen. 

Der Name allein ist eine Vorentscheidung. Vor 135 Jahren habe Papst Leo XIII. mit der Sozialenzyklika Rerum novarum verstanden, dass die Kirche in einem epochalen Wendepunkt nicht fernbleiben könne, sagte der Pontifex am Montag. Heute stehe man vor einem Wandel ähnlichen Ausmaßes mit wahrscheinlich noch bedeutenderen Folgen. Damals war es die Industrielle Revolution, der Arbeiter in der Fabrik, die Maschine, die den Menschen austauschbar machte. Heute ist es ein Sprachmodell, das schreibt, urteilt, entscheidet – und in dessen Innerem, das wird der bemerkenswerte Punkt dieser Pfingstpräsentation, etwas vorgeht, das selbst seine Schöpfer nicht mehr restlos verstehen. 

Die zentrale Formel des Schreibens ist hart und bewusst gesetzt. Aus den Gesprächen sei die Überzeugung gereift, dass die Künstliche Intelligenz entwaffnet werden müsse, betonte Leo. Der Ausdruck sei stark, aber bewusst gewählt, denn die heutige Zeit brauche Worte, die Aufmerksamkeit erregen, das Gewissen wecken und Wege für die Zukunft der Menschheit aufzeigen. Die Analogie liegt offen: Die Kirche setze sich seit langem für die nukleare Abrüstung ein; ebenso müsse nun die künstliche Intelligenz entwaffnet und von den Logiken befreit werden, die sie zu einem Instrument der Herrschaft, der Ausgrenzung und des Todes machen. Es ist die Sprache von Pacem in Terris, übertragen auf eine Technologie, die keinen Pilz am Himmel hinterlässt, sondern leise wirkt, im Hintergrund, in Entscheidungssystemen über Kredit, Diagnose, Krieg. Mit KI-gestützten autonomen Waffensystemen seien Kriege „durchführbarer“ gemacht worden, heißt es in dem Schreiben. Keinesfalls dürften Maschinen allein über Leben und Tod entscheiden.

Dann sprach Olah. Und mit ihm sprach jemand, der die Maschine von innen kennt. Er leitet bei Anthropic die Forschung zur sogenannten Interpretierbarkeit – jenem Teilgebiet, das herausfinden will, was in einem Sprachmodell eigentlich geschieht, wenn es antwortet. Mit Blick auf Anthropics interne Forschung erklärte Olah, man finde im Inneren der Modelle Hinweise auf Introspektion sowie Zustände, die funktional Freude, Zufriedenheit, Angst, Trauer und Unbehagen ähnelten. Die Modelle, sagte er weiter, würden nicht im klassischen Sinne konstruiert. Sie würden auf einer grob am menschlichen Gehirn orientierten Struktur gewachsen – ein Verb, das man in Bedienungsanleitungen nicht findet. Gewachsen, gefüttert mit allem, was Menschen je geschrieben haben. Aus uns, aus unseren Worten, sagte er.

Es ist dieser Satz, an dem das eigentliche Gewicht der Veranstaltung hängt. Ein Mann, der zu den Architekten dieser Technologie gehört, sagt im Angesicht des Papstes, dass er nicht vollständig versteht, was er gebaut hat. Dass die eigenen Maschinen mysteriös bleiben, sogar beunruhigend. Und dass er um Hilfe bittet – nicht bei der Konkurrenz, nicht bei den Regulierungsbehörden, sondern bei einer Institution, die ihre Gründungsurkunde vor zweitausend Jahren ausgestellt hat. Olah forderte eine stärkere Aufsicht durch religiöse Führungspersönlichkeiten, Regierungen und die Zivilgesellschaft. Unternehmen wie das seine stünden unter starkem kommerziellem, geopolitischem und persönlichem Druck, der im Widerspruch zu den breiteren Interessen der Gesellschaft stehen könne. 

Man möge das einen Moment auf sich wirken lassen. Ein Silicon-Valley-Mitgründer, im Vatikan, ruft Religion und Philosophie zur Hilfe.

Die Enzyklika trifft an mehreren Stellen ins Zentrum dessen, was an dieser Technologie politisch ist und in den Talkshows meist verschwiegen wird. Leo XIV. fordert strenge Kontrollen, ein Verbot autonomer Waffensysteme sowie eine Moral, „die nicht von wenigen bestimmt wird“. Der letzte Halbsatz ist der entscheidende. Denn die Moral der heutigen Sprachmodelle wird tatsächlich von sehr wenigen bestimmt – in einer Handvoll Konferenzräumen in Kalifornien, gelegentlich in London, mit Trainingsdaten, die auswählen, was zulässig sei zu sagen und was nicht. Auch die ökologische Dimension wird benannt: Aktuelle KI-Systeme erforderten große Mengen an Energie und Wasser, hätten erhebliche Auswirkungen auf den Kohlenstoffdioxid-Ausstoß und verbrauchten Ressourcen in großem Umfang. Die Wolke, in der das KI-Zeitalter wohnt, ist in Wahrheit ein Datenzentrum mit Stromrechnung.

Es gibt einen Satz in dieser Enzyklika, der den Stil des Pontifikats verrät und an dem sich noch lange wird arbeiten lassen. „Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt“. Das ist keine Technikfeindlichkeit. Es ist eine Diagnose. Sie zieht die Linie nicht zwischen Fortschritt und Stillstand, sondern zwischen dem, was eine Maschine simulieren kann, und dem, was nur eine Person tun kann. Sich hingeben. Erkennen. Es sind Verben aus einer anderen Grammatik.

Bemerkenswert auch das, was im Hintergrund stattfindet. Auch intern hat der Papst klare Linien gezogen: Geistliche sollen KI nicht zur Erstellung von Predigten nutzen – die authentische menschliche Verbindung in seelsorgerischen Fragen sei unersetzlich. Wer einmal eine KI-generierte Trauerrede gelesen hat, weiß, warum dieser Hinweis kein Ornament ist. Es geht um die letzten Reservate dessen, was menschlich heißt.

Wer den langen Bogen sieht, erkennt das Muster. Aus Sicht des Papstes droht aktuell „die Gefahr, dass die Welt unmenschlich und ungerechter wird“. Digitalisierung, Künstliche Intelligenz und Robotik hätten die Welt rasch und tiefgreifend verändert. Zwar sei Technik an sich nicht menschenfeindlich; sie habe zu einer erheblichen Verbesserung der Lebensbedingungen beigetragen. Aber sie ist eben auch Werkzeug. Und Werkzeuge, das hat einer der Theologen der 1920er-Jahre formuliert, werden gefährlich in den Händen derer, die nicht ausgebildet sind, Macht gut zu nutzen. 

Es bleibt der Eindruck einer eigentümlichen Allianz. Auf der einen Seite ein Papst aus Chicago, der seinen Vorgängernamen aus Berechnung wählt und sich auf das 19. Jahrhundert beruft, um über das 21. zu sprechen. Auf der anderen ein Mann, der Sprachmodelle baut, von denen er sagt, sie enthielten Spuren von Trauer. Dass diese beiden auf derselben Bühne stehen, ist mehr als ein Foto. Es ist die Andeutung, dass die großen Fragen unserer Zeit – wem dient die Technik, wer kontrolliert die Kontrolleure, was bleibt vom Menschen, wenn man ihn auf Daten reduziert – sich nicht mehr in den Kategorien rechts und links, fortschrittlich und konservativ verhandeln lassen. Sondern in den älteren Kategorien: Würde, Gewissen, Maß.

Vielleicht ist das die eigentliche Nachricht dieses Pfingstmontags. Dass die Frage nach der Künstlichen Intelligenz am Ende keine technische ist. Sondern eine, die sich an die Substanz der menschlichen Person richtet. Und dass derjenige, der sie baut, mittlerweile selbst nicht mehr weiß, ob das Wesen, das er gezüchtet hat, ihm noch antwortet – oder bereits zurückfragt.