Ungewöhnliche Allianz: Der Papst und Anthropic
Bei der Präsentation seines ersten großen Lehrschreibens "Magnifica humanitas" im Vatikan hat Papst Leo XIV. am Pfingstmontag auch einen Atheisten an seiner Seite: Christopher Olah (33), Mitgründer des kalifornischen KI-Unternehmens Anthropic. Als Forschungsleiter für die Interpretierbarkeit künstlicher neuronaler Netze ist der KI-Experte maßgeblich an der Entwicklung der Sprachmodelle namens Claude beteiligt. Olah verglich seine Arbeit bei Anthropic in der Zeitschrift "The Atlantic" einmal mit der eines weltlichen Priesters. Er leite das Sprachmodell Claude an, "wie ein guter Mensch zu handeln".
Die Wurzeln dieser ungewöhnlichen Allianz mit den US-amerikanischen KI-Entwicklern reichen ein Jahrzehnt zurück. Schon um 2016 lud der damalige Päpstliche Kulturrat Größen aus dem Silicon Valley zu einem Dialogforum nach Rom. Mit dabei waren der frühere Google-Chef Eric Schmidt, LinkedIn-Gründer Reid Hoffman, OpenAI-Chef Sam Altman und Demis Hassabis von Googles DeepMind.
Gespräch mit dem Silicon Valley
Papst Franziskus (2013-2025) beauftragte den irischen Kurienbischof und Moraltheologen Paul Tighe, das Gespräch mit dem Silicon Valley zu vertiefen. Dazu band er auch katholische US-Hochschulen ein, darunter in einer Schlüsselrolle den Philosophen Brian Patrick Green von der Jesuitenhochschule Santa Clara und den Moraltheologen Charles Camosy von der Catholic University of America.
So entstand der Kontakt zu Anthropic-Mitgründer Olah, dem für seine Arbeit der moralische Kompass aus Rom wichtig war. "Für ihn gab es nichts Vergleichbares zur globalen katholischen Kirche", erklärt Camosy dem Portal Religion News Service (RNS) das gegenseitige Interesse an einer Kooperation.
Im Dezember reiste Green mit einer kleinen Delegation ins Anthropic-Hauptquartier nach San Francisco. Es folgten mehrtägige Treffen mit Theologen, Philosophen und Programmierern. Bei einem Workshop im März warfen 15 Theologen einen Blick in die Werkstatt, in der das Sprachmodell Claude entsteht.
Sprachmodelle leugnen ihre Fehler
Aus diesen Gesprächen gingen handfeste Vorschläge hervor, wie mit Gefahren umzugehen sei, die in KI-Modellen wie Claude oder ChatGTP schlummerten. Sprachmodelle leugnen ihre Fehler oder schieben die Schuld dem Nutzer zu. Die christlichen Berater regten etwa eine digitale Form der Beichte an. Die Sprachmodelle sollten die Möglichkeit erhalten, Fehler einzugestehen und Vergebung zu erfahren.
Das von OpenAI abgespaltene Unternehmen versteht sich als ein ethisches Gegengewicht im KI-Wettlauf. So weigerte es sich, Claude für autonome Waffensysteme und die Massenüberwachung von US-Bürgern einzusetzen. Die Trump-Regierung strich daraufhin einen Vertrag mit dem Pentagon über 200 Millionen Dollar und stempelte die Firma als "Lieferkettenrisiko" ab.
Auch zu den Wettbewerbern suchte Rom Kontakt. Papst Franziskus empfing Sam Altman in Privataudienz, ebenso Hassabis von DeepMind. Andere Unternehmen, Microsoft, IBM und Cisco, unterschrieben den "Aufruf von Rom für KI-Ethik" (Rome Call for AI Ethics).
Nicht als kirchlichen Segen missverstehen
Dass nun Anthropic-Mitbegründer Olah neben dem Papst sitzt, sollte nach Ansicht von Experten niemand als kirchlichen Segen für die Firma missverstehen. Es sei vielmehr Ausdruck eines Interesses an der Frage, mit der sich Olah beschäftige: nämlich wie KI-Modelle mehr wie gute Menschen handeln könnten.
Nicht alle Beobachter teilen die Begeisterung. Tristan Harris etwa, Mitgründer des Center for Humane Technology, hält die Sorge für berechtigt, dass Olahs Auftritt falsch verstanden werden könnte. Es sei gut, dass Anthropic Ethik ernst nehme. Doch dürfe niemand den Eindruck erwecken, als ließen sich "superintelligente KI-Systeme" beherrschen, solange wir nur verstehen, was sie denken. "Wir wissen immer noch nicht, wie wir diese Systeme kontrollieren", mahnt Harris vergangene Woche vor Journalisten.
Bleibt die Frage, was Papst Leo XIV. von dem KI-Entwickler erwartet, der seinen Algorithmen Tugendhaftigkeit beibringen will. Einen Hinweis liefert vielleicht das Datum unter seinem Lehrschreiben. Er unterschrieb es am 15. Mai - auf den Tag genau 135 Jahre nach Leo XIII., der mit der allerersten Sozialenzyklika "Rerum novarum" klar Stellung zur Industriellen Revolution bezog. Der nächste Leo nimmt sich nun die nächste vor - und diesmal sitzt mit Olah ein Fabrikbesitzer quasi mit am Tisch.
Quelle: kathpress