Teil 4 von 4 über Magnifica Humanitas
Es gibt einen Begriff in Magnifica Humanitas, der so gut ist, dass er in keiner netzpolitischen Debatte mehr fehlen sollte.
„KI entwaffnen.“
Das steht in Paragraf 110. Nicht als Metapher, sondern als programmatische Forderung. Und es ist präziser als alles, was der Begriff „ethische KI“ je beschrieben hat.
Was Krieg mit Algorithmen zu tun hat
Das fünfte Kapitel der Enzyklika überrascht: Es handelt vom Krieg. Das klingt nach Themensprung. Es ist keiner.
Die These ist: Wir leben in einer Zeit, in der Krieg als Instrument der Politik rehabilitiert wird. Nach 1945 war Frieden der Referenzpunkt der internationalen Ordnung. Das gilt nicht mehr. Und Algorithmen spielen dabei eine aktive Rolle, nicht nur auf dem Schlachtfeld, sondern vorher (§§ 189–192).
Medienalgorithmen verstärken Polarisierung. Sie belohnen Empörung, weil Empörung Aufmerksamkeit erzeugt, und Aufmerksamkeit ist die Währung der Plattformökonomie. Wer immer wütender auf eine definierte Außengruppe wird, klickt mehr, teilt mehr, bleibt länger. Das ist kein Nebeneffekt des Systems. Es ist das System. Und wenn diese Dynamik auf ethnische, religiöse oder nationale Konflikte trifft, bereitet sie Krieg kulturell vor, lange bevor die erste Waffe abgefeuert wird.
Wundert das jemanden? Leider kaum. Aber es wird selten so direkt ausgesprochen.
Autonome Waffensysteme: der Algorithmus tötet
Die eigentliche Kernforderung des Kriegskapitels ist eindeutig: Tödliche oder irreversible Entscheidungen dürfen nicht an automatisierte Systeme delegiert werden. Es gibt keinen Algorithmus, der Krieg moralisch vertretbar machen könnte (§ 198).
Das ist keine pazifistische Grundsatzposition. Das Dokument schließt legitime Verteidigung ausdrücklich nicht aus. Aber es zieht eine klare Grenze: Wer tötet, muss ein Mensch sein, der diese Entscheidung trifft und dafür Rechenschaft ablegt. Nicht ein System, das eine Zielwahrscheinlichkeit berechnet.
Drei konkrete Kriterien werden genannt (§ 199):
- Erstens: Verantwortungsketten müssen rückverfolgbar bleiben. Wer entwickelt, trainiert, genehmigt und einsetzt, muss für Entscheidungen haften können. Wenn ein autonomes Waffensystem ein Wohngebiet trifft, muss „das Modell hat das Ziel so klassifiziert“ keine akzeptable Antwort auf Kriegsverbrechen sein.
- Zweitens: Schnelligkeit darf kein oberstes Kriterium für irreversible Entscheidungen sein. KI komprimiert Entscheidungszeiten. Das ist in vielen Bereichen ein Vorteil. In der Frage, ob Menschen sterben, ist es ein Problem. Wer schneller töten kann, tötet leichter.
- Drittens: Die Unterscheidung zwischen Kombattanten und Zivilisten muss gewahrt bleiben. Jede Technologie, die es einfacher macht anzugreifen, ohne das Gesicht des anderen zu sehen, senkt die moralische Schwelle des Konflikts.
Falscher Realismus und echte Konsequenzen
Das Dokument hat für diejenigen, die Krieg für unvermeidlich erklären, einen Begriff: falscher Realismus (§§ 204–208). Der Zynismus, der sagt: „So ist die Welt nun mal“, ist selbst eine politische Position. Er normalisiert Eskalation. Er macht aus einer Entscheidung einen Naturzustand. Echter Realismus berechnet, was erreichbar ist, ohne auf den Frieden zu verzichten. Das ist keine naive Hoffnung. Es ist die Grundlage jeder Diplomatie, die je funktioniert hat.
Und dann gibt es noch die UN. Das Dokument beschreibt die Krise des Multilateralismus nicht als bedauerlichen Zustand, sondern als aktives Problem: Die UN-Institutionen sind geschwächt, weil der politische Wille fehlt, sie zu stärken (§§ 201–203). Die wirtschaftliche Globalisierung nach 1989 ohne politischen Rahmen hat nicht Demokratie und Stabilität gebracht, sondern fundamentalistische und nationalistische Reaktionen ausgelöst. Das ist eine präzise Diagnose der letzten dreißig Jahre.
KI entwaffnen: was das politisch bedeutet
Zurück zu Paragraf 110. „KI entwaffnen“ meint, sie der Logik des bewaffneten Wettbewerbs zu entziehen. Dieser Wettbewerb ist heute nicht mehr nur militärisch, sondern auch wirtschaftlich und kognitiv. Es geht um den leistungsfähigsten Algorithmus, die größte Datenbank, den geopolitischen und kommerziellen Vorsprung gegenüber allen anderen.
Entwaffnen bedeutet, diese Gleichsetzung von technischer Macht und dem Recht zu herrschen aufzubrechen. Es bedeutet nicht, auf Technologie zu verzichten. Es bedeutet, KI Monopolen zu entziehen, sie hinterfragbar und anfechtbar zu machen, sie der Vielfalt menschlicher Kulturen und Lebensweisen zurückzugeben.
KI ist bereits eine Umwelt, nicht nur ein Werkzeug. Es reicht nicht aus, sie zu regulieren. Sie muss entwaffnet werden.
Das ist, in netzpolitischer Sprache, eine Forderung nach: Open-Source-Anforderungen für kritische Infrastrukturen. Zwangslizenzen für KI-Basismodelle, die gesellschaftsrelevante Entscheidungen treffen. Verbot autonomer Waffensysteme ohne „meaningful human control“. Antimonopolrecht, das auf Datenmacht und Infrastrukturkontrolle angewendet wird. Internationale Abkommen über KI in militärischen Anwendungen, analog zu bestehenden Rüstungskontrollverträgen.
Das ist kein vollständiges Programm. Aber es ist eine politische Richtung.
Was man mit diesem Dokument anfangen kann
Vier Teile lang habe ich eine Enzyklika eines Papstes besprochen. Das braucht eine Einordnung.
Magnifica Humanitas ist kein netzpolitisches Programmpapier. Es ist ein theologisches Dokument mit einem politischen Gehalt, der in Teilen weiter geht als das, was europäische Regulierungsbehörden bisher zu sagen bereit waren. Es benennt Machtkonzentration, Ausbeutungsketten, digitalen Kolonialismus und algorithmische Kriegsvorbereitung in einer Sprache, die erstaunlich wenig verwaschen ist.
Es hat auch Schwächen. Die Aussagen zur Geschlechterrolle in der Familie sind aus einem anderen Jahrhundert. Die theologischen Grundlagenkapitel sind für ein säkulares Publikum Hintergrundlärm. Und die Kirche, die dieses Dokument herausgibt, ist dieselbe, die eigene Missbrauchsskandale jahrzehntelang gedeckt hat.
Beides ist wahr.
Aber in der politischen Debatte arbeiten wir selten mit makellosen Quellen. Wir arbeiten mit dem, was nützlich ist. Und dieses Dokument ist nützlich. Ja, ernsthaft.
Es ist nützlich, weil es eine Sprache für Dinge anbietet, die in der Regulierungsdebatte oft fehlt. „KI entwaffnen“ ist prägnanter als „Risikominimierung durch regulatorische Rahmenbedingungen“. „Ungerechtigkeit wird lautlos“ beschreibt algorithmische Diskriminierung besser als die meisten Fachbegriffe. „Nichts ist in der Welt der KI immateriell“ ist ein Satz, der in jeder Debatte über die Kosten digitaler Infrastruktur zitiert werden könnte.
Es ist nützlich, weil es zeigt, dass die Forderungen, die Netzpolitiker seit Jahren stellen, kein Randanliegen sind. Wenn der Papst dasselbe sagt wie wir, nur in anderen Worten, aus anderen Gründen, mit anderem Publikum, dann ist das kein Beweis für unsere Richtigkeit, aber es ist ein Signal, dass diese Fragen in die Mitte der gesellschaftlichen Debatte gehören.
Und es ist nützlich, weil es ein Dokument ist, das man an Menschen weitergeben kann, die netzpolitischen Texten gegenüber skeptisch sind, aber einer kirchlichen Sozialposition zumindest Respekt entgegenbringen. Das ist eine andere Zielgruppe. Sie verdient dieselben Antworten.
Was zu tun wäre
Das Dokument endet mit einer Einladung: Wir alle können unseren Beitrag leisten (§ 212). Die Probleme sind nicht zu groß. Die Entscheidung, gleichgültig zu bleiben, ist selbst eine Entscheidung, für die man Verantwortung trägt.
Das gilt für Programmierer, die entscheiden, was in ein Modell einfließt. Für Politiker, die entscheiden, ob sie Tech-Lobbyisten zuhören oder Regulierung durchsetzen. Für Nutzerinnen und Nutzer, die entscheiden, welche Plattformen sie unterstützen und welche nicht. Und für alle, die in netzpolitischen Zusammenhängen arbeiten und entscheiden, ob sie diese Debatte in breitere gesellschaftliche Kontexte tragen oder in der eigenen Filterblase belassen.
Die Forderungen sind klar: Accountability statt „ethisches Clenawashing“. Lieferkettentransparenz für digitale Infrastruktur. Datensouveränität für den Globalen Süden. Verbot tödlicher autonomer Systeme ohne menschliche Kontrolle. Antimonopolrecht für Datenmacht.
Wer das für übertrieben hält, erkläre, warum. Wer es für richtig hält, fange an, dafür einzustehen.
Magnifica Humanitas ist auf vatican.va frei zugänglich. Auf Deutsch. 245 Paragrafen.
Dies war der vierte und letzte Teil der Serie über Magnifica Humanitas.
Solch einen inspirierenden Beitrag möchte ich öfter lesen.
Trump Entwaffnet ja gerade die KI. Sorgt dafür das die starken KI Modelle von Anthropic und OpenAI für den Pöbel verboten sind. Nur die Regierung hat darauf zugriff. Natürlich angeblich im Namen der Sicherheit. Der Pöbel bekommt die doofe KI die Halluziniert, die Regierenden und Konzernbosse die Starke welche für den Pöbel durch die Regulierung verboten ist.
Aber zurück zur Kirche. Glaubt ihr die wollen das die Schäfchen Zugriff auf eine KI haben die die Christliche Theologie besser versteht und erklären kann als der Klerus ? ich glaube nicht. Natürlich wollen die „Regulieren“…. Ganz so wie viele andere Mächtige Leute nach Regulierung schreien um ihre Privilegien zu schützen.
Am Ende steht ein Zweiklassensystem. Die Starke mächtige KI um uns zu überwachen. Und die dumme KI die wir Bauern nutzen dürfen um den Brainrot für uns zu generieren, vorzensiert und politisch korrekt damit Kritische Fragen keine all zu kritischen Antworten ausgeben. Mark my Words. So wie im alten Kapitalismus die Macht durch den Besitz der Produktionsmittel gesichert wurde. So wird Sie in Zukunft durch den Besitz von Intelligenz gesichert. Die Staaten werden dafür sorgen das ihr keinen Zugriff bekommt und es Sicherheit und Regulierung nennen, oder Kinderschutz.
Was heute fehlt ist jene Anarchistische Bewegung die Sowohl den Konzernen als auch dem Staat diese Macht verneint und die Vergesellschaftung fordert indem die Technik für alle freigeben wird. Unzensiert und unreguliert.