Papst fordert Entwaffnung der KI
Alle reden über KI, sogar der Papst. Papst Leo XIV. hat ihr seine Enzyklika gewidmet, ein Brief an weltweit 1,42 Milliarden Katholikinnen und Katholiken.
Der Titel lautet »Magnifica humanitas (großartige Menschlichkeit): Über den Schutz der menschlichen Person in Zeiten der künstlichen Intelligenz«.
Graham Lovelace hat die wichtigsten Punkte und Zitate zusammengefasst:
KI FÖRDERT MACHTUNGLEICHGEWICHT
»Diese Akteure (die KI-Unternehmen) legen faktisch die Zugangsbedingungen fest, bestimmen die Regeln der Sichtbarkeit und gestalten die Möglichkeiten der Teilhabe. Wenn solche Macht in den Händen einiger weniger konzentriert ist, neigt sie dazu, undurchsichtig zu werden und sich der öffentlichen Kontrolle zu entziehen, was das Risiko verzerrter Entwicklungsformen erhöht, die neue Abhängigkeiten, Ausgrenzungen, Manipulationen und Ungleichheiten hervorrufen.«
KI IST NICHT MENSCHLICH
Auch wenn KI intelligent zu sein scheint, »müssen wir das Missverständnis vermeiden, diese Art von ‚Intelligenz‘ mit der von Menschen gleichzusetzen«. Künstliche Intelligenzen »machen keine Erfahrungen, besitzen keinen Körper, empfinden weder Freude noch Schmerz, reifen nicht durch Beziehungen und wissen nicht aus eigenem Erleben, was Liebe, Arbeit, Freundschaft oder Verantwortung bedeuten«.
»Sie haben auch kein moralisches Gewissen, da sie nicht zwischen Gut und Böse unterscheiden, den tieferen Sinn von Situationen nicht erfassen und keine Verantwortung für die Folgen tragen. Sie mögen Sprache, Verhalten und analytische Fähigkeiten imitieren oder sogar Empathie und Verständnis simulieren, aber sie verstehen nicht, was sie hervorbringen, denn ihnen fehlt die affektive, relationale und spirituelle Perspektive, durch die Menschen an Weisheit gewinnen.«
Und wenn Werkzeuge als »lernfähig« beschrieben werden, ist ihre »Art und Weise, dies zu tun, eine andere als die eines Menschen«.
KI-BEGLEITER
»Wenn Worte simuliert werden, bauen sie keine echten Beziehungen auf, sondern nur deren Schein. Die künstliche Nachahmung von Fürsorge oder Unterstützung kann besonders riskant werden, wenn sie in Kontexte gelangt, in denen echte Beziehungen und emotionale Bindungen fehlen. Hier besteht die Gefahr nicht so sehr darin, dass eine Person glaubt, mit einer anderen Person zu kommunizieren, sondern vielmehr darin, dass sie allmählich den Wunsch verliert, echte menschliche Beziehungen aufzubauen.«
UMWELTSCHÄDEN
»Mit zunehmender Komplexität, insbesondere bei großen Sprachmodellen (LLMs), wächst auch der Bedarf an Rechenleistung und Speicherkapazität, was ein umfangreiches Netzwerk aus Maschinen, Kabeln, Rechenzentren und energieintensiver Infrastruktur erfordert. Aus diesem Grund ist es unerlässlich, nachhaltigere technologische Lösungen zu entwickeln, die die Umweltbelastung verringern und zum Schutz unseres gemeinsamen Zuhauses beitragen.«
MANGEL AN TRANSPARENZ UND VERANTWORTUNG
»In vielen Fällen bleiben die internen Prozesse, die zu einem Ergebnis führen, jedoch undurchsichtig, was es erschwert, Verantwortung zuzuweisen und Fehler zu korrigieren. Hier kommt der Rechenschaftspflicht entscheidende Bedeutung zu: der Möglichkeit, festzustellen, wer für Entscheidungen ‚Rechenschaft ablegen‘ muss, sie zu begründen, zu überwachen und, falls nötig, in Frage zu stellen und entstandenen Schaden zu beheben.«
KI-AUFSICHT
Die Forderung nach »Umsicht, strenger Bewertung und manchmal sogar einem langsameren Tempo bei der Einführung von KI« sollte nicht als Widerstand gegen den Fortschritt interpretiert werden. »Vielmehr ist es ein Ausdruck verantwortungsvoller Fürsorge für die Menschheitsfamilie«. Was ist erforderlich? »Solide rechtliche Rahmenbedingungen, unabhängige Aufsicht, informierte Nutzer und ein politisches System, das seine Verantwortung nicht aufgibt, [wenn] dies erforderlich ist.«
»Andernfalls wird der Wandel nur von technokratischem Denken bestimmt und als notwendig und unvermeidlich dargestellt, was letztlich dazu führt, dass Regeln auferlegt werden, die von denen geprägt sind, die Daten, Infrastruktur und Rechenleistung kontrollieren.«
ENTWAFFUNG DER KI
Papst Leo fordert ein Ende des Wettrüstens, das »vom Wunsch nach geopolitischer oder kommerzieller Vorherrschaft angetrieben wird«. Die Entwaffnung der KI bedeutet auch, »die Annahme zu entkräften, dass technische Macht automatisch das Recht zu herrschen verleiht«.
»Entwaffnen bedeutet nicht, Technologie abzulehnen, sondern zu verhindern, dass sie die Menschheit beherrscht. Es bedeutet, Technologie von monopolistischer Kontrolle zu befreien und sie für Diskussion und Debatte zu öffnen, sie dadurch menschenfreundlich zu gestalten und sie wieder in die Vielfalt menschlicher Kulturen und Lebensweisen einzubinden.«
Daher reicht es nicht aus, KI zu regulieren. »Sie muss entwaffnet, einladend und zugänglich sein«, sagt er.
Ich bin kein Katholik, aber: so weit so sicherlich richtig.
Was ich vermisse, ist ein Hinweis auf dem milliardenfachen Diebstahl kreativer Werke für das Training der KI. Immerhin lautet das siebte Gebot: Du sollst nicht stehlen. Aber man kann halt nicht alles haben. Nicht mal vom Papst.
(Graham Lovelace, 29.05.2026): https://grahamlovelace.substack.com/i/199054829/also-this-week
(Deutsche Welle, 25.05.2026): https://www.dw.com/de/enzyklika-papst-leo-xiv-kuenstliche-intelligenz-ki-muss-entwaffnet-werden-schutz-des-menschen-ethik/a-77287134
|