Theologin: In KI-Debatte ist Angst kein guter Ratgeber

Die Warnungen von KI-Tech-Forschern vor einem Kontrollverlust Künstlicher Intelligenz (KI) und die Forderung, die Entwicklung zu verlangsamen, sollten ernst genommen, aber nicht dramatisiert werden: Die Philosophin Claudia Paganini warnt davor, aus Untergangsprognosen über eine Auslöschung der Menschheit konkrete ethische Orientierung abzuleiten. "Angst ist kein guter Ratgeber für eine reflektierte und differenzierte Problemlösung", so die Innsbrucker Theologin. "Dass KI menschliche Fähigkeiten in einzelnen Bereichen übertrifft, ist bereits Realität", was aber noch keinen Kontrollverlust zur Folge habe. Denn: "Wenn Menschenwürde nicht davon abhängt, intelligenter, kreativer oder produktiver als andere zu sein, dann bedroht eine leistungsfähigere Maschine die Menschenwürde auch nicht."

Hintergrund ist der Ausstieg des britischen Mathematikers Jacob Coxon beim KI-Unternehmen Anthropic aus Sorge, dass der Konkurrenzkampf der Branche zur Entwicklung selbstoptimierender und letztlich unkontrollierbarer Systeme führen könnte. Der Anthropic-Forscher Evan Hubinger bezifferte zuletzt die Gefahr, dass KI die Menschheit im kommenden Jahrzehnt töten könnte, mit mehr als zehn Prozent. Auch der Forschungschef des ChatGPT-Entwicklers OpenAI, Jakub Pachocki, mahnte "extreme Vorsicht" ein. So sei man an einem Moment der Geschichte angelangt, in dem die Intelligenz von Maschinen beginne, die der Menschen zu übertreffen.

Angst vor Kontrollverlust

Zur Forderung "der Mensch muss die Kontrolle behalten" meinte Paganini im Interview mit der Nachrichtenagentur Kathpress (Mittwoch), diese klinge zwar plausibel, bleibe aber "eine Plattitüde, wenn man nicht sagt, was Kontrolle konkret bedeutet". Entscheidend bei neuen Technologien seien Zweck, Risiko und Beherrschbarkeit, argumentiert die an der Universität Innsbruck forschende Theologin.

Eine Grenze nennt Paganini jedoch: Wenn ein KI-System nicht mehr zuverlässig überprüft, begrenzt oder abgeschaltet werden kann, müsse man aber fragen, "ob es einen hinreichend guten Grund gibt, es überhaupt zu entwickeln". Eine solche Schwelle lasse sich damit aber nicht pauschal begründen, relevant seien vielmehr "Menschenwürde, Freiheit, Gerechtigkeit und Verantwortung". Letztere bleibe immer bei den Menschen und Institutionen, "ist allerdings verteilt bzw. gestuft: Sie liegt bei Entwicklern, Herstellern, Betreibern oder Anwendern".

Technik sei "per se selten gut oder böse"; entscheidend sei, "wofür und unter welchen Bedingungen sie eingesetzt wird", so die Expertin, die dabei auch eine Wettbewerbslogik nach dem Motto "Wenn wir es nicht machen, macht es jemand anderer" als Begründung nicht akzeptiert.

Kränkung durch KI

Als bedrohlich betrachtete Paganini nicht Maschinen oder Technologien, sondern die Alltagslogik einer Gesellschaft, in der alles und jeder permanent verfügbar ist und optimiert werden müsse. "Wer so sozialisiert ist, tut sich natürlich schwer, im Nicht-Produktiven einen Wert zu sehen oder einen Menschen bedingungslos anzunehmen." Und weiter: "Vielleicht tut uns die Kränkung durch die KI da gar nicht so schlecht."

Wenn die KI den Menschen "in all dem übertroffen hat, worin er sich für so großartig gehalten hat", könne es für den Menschen leichter werden, "bescheidener zu sein, Dinge zu tun, die einem Freude bereiten - und nicht, weil ich darin besser sein muss als jeder andere". Dies könne auch dazu führen sich "Menschen um ihrer selbst willen verbunden zu fühlen, nicht weil sie eine Leistung erbringen oder einen Nutzen für mich darstellen".

Die KI-Tech-Debatte braucht laut Paganini einen Blick für die sozialen Folgen der Entwicklung - etwa "dass es durch die Reproduktion von historischen Daten laufend zu algorithmischer Diskriminierung kommt oder dass die global sehr ungleiche Verteilung von Nutzen und Schaden ein massives Problem der sozialen Gerechtigkeit darstellt".

KI braucht Religionskritik

Paganini beobachtet auch die Tendenz eines religiös aufgeladenen KI-Diskurses. Die Autorin des Buchs "Der neue Gott. Künstliche Intelligenz und die menschliche Sinnsuche" (2025) fordert hier jedoch Religionsfreiheit ein; diese "bedeutet eben auch, dass Menschen sich Götterbilder machen, einen Gottesglauben entwickeln dürfen, der nicht meinen Vorstellungen entspricht".

Wo Menschen einer Technologie eine quasi-göttliche Macht zuschreiben würde, drohe auch die eigene Verantwortung aus dem Blick zu geraten. Nötig sei daher eine Form der Religionskritik, da Religion - mit Blick auf die Religionsgeschichte - per se nie nur harmlos, sondern auch gefährlich sein könne. Zugleich müsse gefragt werden, wer die neuen Eliten dieser "KI-Religion" seien, "die die eigentlichen Nutznießer vom Glauben des einfachen Volkes sind" und "ob wir wirklich wollen, dass eine zunehmende KI-Gläubigkeit ihnen mehr und mehr Macht in die Hände spielt".

Quelle: Kathpress