Papst Leo hat im Mai die vielbeachtete Enzyklika «Magnifica humanitas» herausgegeben, in der er sich mit der Bewahrung der Menschen im Zeitalter der künstlichen Intelligenz beschäftigt. André Golliez, was halten Sie als Ingenieur und IT-Consultant davon, dass sich eine religiöse Autorität zur KI äussert?

Zunächst war ich überrascht: von der Prominenz, mit der das Schreiben vorgestellt wurde – zum Beispiel, dass Christopher Olah, ein Mitgründer des KI-Unternehmens Anthropic, im Vatikan gesprochen hat. Auch die Resonanz in Medien und Politik hat mich überrascht. Dann hat mich die Enzyklika gefreut: weil ich denke, dass es die kritische Auseinandersetzung braucht. Schliesslich habe ich darin einiges gelernt.

Zum Beispiel?

Die katholische Soziallehre war mir entfernt bekannt und die Lektüre der Enzyklika hat sie mir ins Bewusstsein geholt. Es war das erste Mal, dass ein päpstliches Wort in mein berufliches Umfeld hineingesprochen hat. Aber es geht hier nicht in erster Linie um ein Ingenieurs-Thema, sondern wir stehen vor Fragen, die alle Menschen angehen.

Teilen Sie die Einschätzung, dass wir uns durch die Entwicklung der KI in einem Epochenwandel befinden, der die Menschlichkeit bedroht?

Ich bin seit rund 50 Jahren in der IT tätig und habe mich in den 1980-Jahren während meines Informatikstudiums an der ETH selbst mit künstlicher Intelligenz befasst. Das waren damals regelbasierte «old fashioned» AI-Systeme, noch keine grossen statistischen Sprachmodelle. Von daher denke ich, müssten wir die gesellschaftliche Zäsur eigentlich viel früher ansetzen als im November 2022, als ChatGPT auf den Markt kam.
Zum Epochenwandel: Ich kann sagen, dass die Entwicklungen meine Erwartungen übertreffen. Die Entstehung der grossen statistischen Sprachmodelle, generative AI, ist erstaunlich. Die sprachliche Funktionsweise und vor allem die Interaktion mit Menschen – das hätte ich mir so vor 40 Jahren nicht vorstellen können.

Wie schätzen Sie die Bedrohungsdimension ein?

Es gibt bedrohliche Aspekte. Ich schätze sie allerdings nicht so hoch ein wie beispielsweise der Historiker Yuval Harari oder der US-Senator Bernie Sanders, die sich prominent äussern. Insofern ist mir die Enzyklika von Papst Leo in ihrer Tonalität sehr willkommen: sie differenziert, macht Unterscheidungen. Sprachsimulation ist doch zum Beispiel nicht dasselbe wie KI-basierte autonome Waffensysteme. Letztere halte ich für sehr gefährlich.

Im Juli erst ist ein KI-Modell von OpenAI während eines Tests eigenständig aus der Testumgebung ausgebrochen und hat einen automatisierten Hackerangriff auf eine andere KI-Plattform gestartet. Nicht gefährlich?

Zumindest hat die Geschichte einen Marketing-Aspekt. OpenAI war damit in den Headlines und man war wohl nicht traurig darüber, weil sich das positiv auf den Börsenkurs ausgewirkt haben wird. Grundsätzlich halte ich sämtliche Machtübernahmefantasien und Weltuntergangsszenarien durch KI für übertrieben oder für gut platzierte Marketingaktionen.
Was allerdings auch diese Geschichte zeigt: KI konfrontiert uns als Gesellschaft mit grundlegenden Bildungsfragen. Was müssen wir lernen, um mit diesen Systemen richtig umzugehen? Wie lernen wir, ihre Ergebnisse einzusetzen? Von klein auf bis hin zu uns Älteren müssen wir verstehen, was hier geschieht, denn: KI ist nicht «magic», es ist Informatik. Mit gesundem Menschenverstand und ein wenig Mathematik lässt sich das gut verstehen. Wer hingegen die Hintergründe nicht versteht, bei dem sind Tür und Tor für Mystifizierungen weit offen.

Sam Altman hingegen, der CEO von OpenAI, nennt die KI «magical intelligence in the sky», eine magische Intelligenz, beheimatet im Himmel.

Für mich ist das Marketing-Sprech kurz vor dem Börsengang, das ist Blödsinn.
Ich bewundere die Leistung der Entwickler von OpenAI und anderen KI-Pionierfirmen. Ihre Geschäftspraktiken dagegen finde ich eher fragwürdig, insbesondere bei der Nutzung offen zugänglicher digitaler Inhalte. Und ja, die Resultate der Sprachmodelle sind zum Teil nicht vorhersehbar. Das liegt in der Natur der statistischen Methoden, auf denen sie beruhen. Aber: Man darf sich davon nicht allzu sehr beeindrucken lassen. Genau das finde ich in der Enzyklika wieder, deswegen ist sie ein Mutmacher für mich: Lasst Euch nicht zu sehr beeindrucken, findet einen vernünftigen, menschenwürdigen Umgang damit.

Papst Leo stellt die zentrale Forderung, die KI zu «entwaffnen», also sie der Logik des bewaffneten Wettbewerbs im militärischen, wirtschaftlichen und kognitiven Bereich zu entziehen. Er schreibt: «Es bedeutet, sie Monopolen zu entziehen, sie hinterfragbar und anfechtbar und damit lebensfreundlich zu machen, sie der Vielfalt menschlicher Kulturen und Lebensweisen zurückzugeben.» Angesichts der herrschenden Machtverhältnisse – ist es dafür nicht bereits zu spät?

Nein, das glaube ich nicht. Im Gegenteil ist es sehr hilfreich für die notwendige Diskussion, wenn sich eine Institution wie die katholische Kirche in aller Deutlichkeit äussert.
Als Präsident der Swiss Data Alliance ist für mich relevant, wer die Kontrolle über die KI-Systeme und vor allem auch über die Daten hat, welche diese Systeme in grossen Mengen benötigen. Wir brauchen staatliche Regulierungen, klar. An dieser Stelle bin ich aber etwas skeptisch gegenüber den Aussagen der Enzyklika, denn wir brauchen vor allem auch eine gemeinschaftliche Kontrolle zivilgesellschaftlicher, privater und staatlicher Akteure: über Daten und digitale Ressourcen, also über sogenannte «digital commons». Auch dafür ist es nicht zu spät – man fängt gerade erst an, sich zu formieren. Aus diesem Grund haben wir eine Vertreterin von Wikipedia zu unserem Podium eingeladen.

Wikipedia ist keine staatliche Institution, sondern eine zivilgesellschaftliche Akteurin – und der Content der Online-Enzyklopädie, der von unzähligen Aktivistinnen und Aktivisten erstellt wurde, wird nun von KI-Modellen geplündert.

Ja, und doch ist es nicht zu spät, Modelle zu entwickeln, damit zukünftig Verträge abgeschlossen werden können, die es erlauben, die Erzeuger und Inhaber von Daten für deren Nutzung im Rahmen von KI-Systemen fair zu entschädigen. Es braucht dazu aber dringend zivilgesellschaftliche Aktivität.
An Gerichten sind Prozesse hängig, Verlagshäuser wie die New York Times klagen gegen OpenAI – das ist alles erst im Gange, und ist aus meiner Sicht ganz wichtig. Die Wiederverwertungs- und Urheberrechte müssen entsprechend angepasst werden.

Welcher Schritt wäre in Ihren Augen der erste, die KI im Sinne von Papst Leo zu «entwaffnen»?

Es braucht dafür insbesondere die Zivilgesellschaft. Das Vertrauensverhältnis zwischen Akteuren, die KI einsetzen, zwischen den Firmen mit grossem Kapital, und dem Rest der Gesellschaft muss entwickelt und definiert werden. Ich bin durchaus optimistisch, dass es möglich sein wird, zu vernünftigen Vereinbarungen zu kommen – wenn sich die zivilgesellschaftlichen Akteure in Bewegung setzen und die KI-Firmen nach ihren konkreten Handlungen und nicht nach grossmundigen Erklärungen beurteilen. Politischen Druck braucht es ausserdem.

Noch nie in der Geschichte hat sich eine Technologie so schnell entwickelt wie die KI. Sehen Sie auch entsprechenden moralischen Fortschritt?

Es fällt mir schwer zu antworten, da ich weder Moralphilosoph noch Politiker bin.

Wer wäre für moralischen Fortschritt verantwortlich?

Natürlich wir alle, und die Forderung bleibt gleichzeitig abstrakt und kaum fassbar. Verantwortung tragen auch Institutionen wie die Kirche, andere Religionsgemeinschaften, die Universitäten und Bildungseinrichtungen.

Auf dem Podium bringen Sie Fachpersonen aus Tech-Branche und Universität mit Kirchenvertretern ins Gespräch: über Perspektiven für die Entwicklung und Nutzung künstlicher Intelligenz. Was erwarten Sie sich hier von den Theologen und kirchlichen Verantwortungsträgern?

Von Bischof Felix Gmür erwarte ich, dass er die Enzyklika, die ein umfassendes Dokument ist, dem Publikum in Grundzügen vermittelt und die zentralen Inhalte in Erinnerung ruft. Ich wünsche dem Schreiben nämlich eine breitere Wahrnehmung, weil es im Kern eine Einladung zum Dialog ist. Und genau das tun wir mit diesem Podium: einen Dialog anstossen zwischen Steakholdern. Wir bringen Verantwortliche aus Big-Tech, Zivilgesellschaft, Wissenschaft und Kirche zusammen. Die Idee ist, eine Resonanz zu erzeugen, sodass Gespräche weitergehen können und der Kreis sich erweitert. Das wäre wünschenswert und notwendig.