KI-Pionier Olah im Vatikan: Tech-Konzerne brauchen Kritik von außen

Der KI-Pionier und Anthropic-Mitgründer Christopher Olah hat grundlegende ethische Probleme bei der Entwicklung digitaler Technologien eingeräumt. Jedes KI-Labor sei Anreizen ausgesetzt, die manchmal im Widerspruch dazu stehen können, das Richtige zu tun, sagte der 33-Jährige bei der Vorstellung von Papst Leos XIV. erster Enzyklika am Pfingstmontag im Vatikan. Darum brauche es Außenstehende, die Kritik üben und vor Risiken warnen.

"Die Fragen, die KI aufwirft, sind größer als die KI-Forschungsgemeinschaft, nicht nur in ihren Auswirkungen, sondern auch in ihrem Wesen", so Olah. Wie sie mit der Welt interagiert oder interagieren sollte, seien Fragen für die Geisteswissenschaften, für die Religion, für die Philosophie, für die Gesellschaft insgesamt.

Aufgabe der katholischen Kirche

Der aus Kanada stammende Multimilliardär sprach der katholischen Kirche eine wichtige Rolle zu, um den Blick auf die Herausforderungen zu lenken, die mit dem Fortschritt von Technologie einhergehen. Ihre Stimme werde beispielsweise gebraucht, wenn es um mögliche Verluste von Arbeitsplätzen aufgrund von KI gehe.

Ebenso sei die Frage nach wie vor unbeantwortet, wie alle Menschen an der KI-Entwicklung teilhaben können. Die ethischen Fragen nach der Entwicklung der Menschheit und der geistigen Entwicklung von Kindern könne ebenfalls kein KI-Labor beantworten. "Wir brauchen informierte Kritiker, die den Labors sagen, wenn wir versagen. Wir brauchen moralische Stimmen, die sich von Anreizen nicht beugen lassen."

"Neuer Kolonialismus"

Das erste universale Lehrschreiben des aus den USA stammenden Papstes vereint Denkanstöße, Analysen und Appelle zum aktuellen Epochenwandel. In dem Text "Magnifica humanitas - Über den Schutz des Menschen im Zeitalter der Künstlichen Intelligenz" warnt Leo XIV. vor einer Entmenschlichung durch verfehlte Nutzung digitaler Technologien und fordert eine breitere gesellschaftliche Kontrolle von KI.

Die Tatsache, dass wenige global agierende Unternehmen wesentliche Elemente dieser Technologie kontrollieren, kritisiert der Papst in der Enzyklika scharf und spricht von der Gefahr eines "neuen Kolonialismus".

Quelle: kathpress