Die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz

Papst Leo XIV. hat sein erstes Lehrschreiben vorgelegt. In seiner Enzyklika Magnifica Humanitas fordert er eine „Begrenzung der technischen Macht“ Künstlicher Intelligenz und kritisiert, dass sich gigantische Datensammlungen fast ausschließlich in den Händen weniger machtvoller Unternehmen befinden. Die KI sei eine neue Form des Kolonialismus, eine Gefahr für die Demokratie und die Gerechtigkeit und führe zu verheerenden Verwerfungen etwa in der Arbeitswelt. Allmachtsnarrative über transhumane und posthumane Existenzen, wie zum Beispiel Elon Musk sie hegt, dessen Namen der Papst freilich nicht erwähnt, seien darauf ausgerichtet, die Würde des Menschen zu eliminieren. Magnifica Humanitas ist eine fundierte moralische Anklage zur richtigen Zeit. Kein Wunder, dass das Werk bei Tech-Konzernen und US-Präsident Trump auf heftige Ablehnung stößt. Hubert Ostendorf hat die wichtige Schrift des Papstes gelesen und daraus Passagen zusammengestellt.

Papst Leo mit einer behinderten Frau, bei einem Mahl mit Obdachlosen und einem erkrankten Kind.

In den letzten Jahren ist immer deutlicher geworden, wie rasch und tiefgreifend Digitalisierung, Künstliche Intelligenz (KI) und Robotik unsere Welt verändern. […] Heute sehen wir uns mit einer neuen Situation konfrontiert, in der die Macht und Omnipräsenz neuer Technologien die Struktur des täglichen Lebens durchwirken, Entscheidungsprozesse prägen und die kollektive Vorstellungswelt tiefgreifend beeinflussen. […] Es ist notwendig, angemessene Regulierungsinstrumente einzuführen, die in der Lage sind, die Gerechtigkeit zu schützen und die verzerrenden Auswirkungen von technologischer Macht einzudämmen. […] Technologie kann heilen, verbinden, bilden und unser gemeinsames Haus schützen, aber sie kann auch spalten, ausgrenzen und neue Ungerechtigkeiten hervorbringen. Abstrakt betrachtet ist sie per se weder eine Lösung für die Probleme der Menschheit noch ein Übel. Konkret betrachtet aber ist sie nicht neutral, weil sie die Züge derer annimmt, die sie konzipieren, finanzieren, regulieren und nutzen. […] In der Enzyklika Laudatio Si hat Papst Franziskus die zunehmende Durchsetzung eines technokratischen Paradigmas in der globalisierten Welt angeprangert, also die Tendenz, persönliche, gesellschaftliche und wirtschaftliche Entscheidungen allein der Logik der Effizienz, der Kontrolle und des Profits zu unterwerfen. […] Dieses Paradigma hat sich in den letzten Jahren rasch verbreitet, auch aufgrund der Verbreitung von Künstlicher Intelligenz, von Kognitionswissenschaften, Nanotechnologie, Robotik und Biotechnologie. An sich können diese Innovationen zu einer großen Hilfe für die ganzheitliche menschliche Entwicklung und die Bewahrung unseres gemeinsamen Hauses werden. Doch gerade wegen ihrer Leistungsfähigkeit können sie als Beschleuniger des technokratischen Paradigmas wirken und bedürfen daher einer neuen geistlichen, ethischen und politischen Einordnung. Leistungsfähiger bedeutet nicht zwangsläufig besser. […]

 „Kleine, sehr einflussreiche Gruppen (hier Sam Altman, CEO von Open AI, Betreiberfirma von Chat GPT) können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik zu ihrem eigenen Vorteil beeinflussen. Dies steht im Widerspruch zur sozialen Gerechtigkeit und Solidarität.“ (Foto: Wikipedia)

Daten in den Händen der Mächtigen: KI kennt keine Liebe

Im digitalen Bereich liegt die Kontrolle über Plattformen, Infrastrukturen, Daten und Rechenleistung in vielen Fällen nicht in der Hand der Staaten, sondern von großen wirtschaftlichen und technologischen Akteuren, die de facto die Zugangsbedingungen, die Regeln der Sichtbarkeit und die Möglichkeiten der Teilhabe selbst festlegen. Wenn sich solche Macht in wenigen Händen konzentriert, besteht die Gefahr, dass sie undurchsichtig wird und sich der öffentlichen Kontrolle entzieht. Das erhöht das Risiko einer schiefen Entwicklung, die neue Abhängigkeiten, Ausgrenzungen, Manipulationen und Ungerechtigkeit erzeugt. […] Moderne Künstliche Intelligenzen werden nämlich eher „gezüchtet“ als „gebaut“: Die Entwickler entwerfen nicht jedes Detail direkt, sondern schaffen eine Architektur, auf der KI „wächst“. Infolgedessen bleiben grundlegende wissenschaftliche Aspekte – wie die inneren Repräsentationen und die Rechenprozesse dieser Systeme – derzeit unbekannt. Daher ergibt sich die dringende Notwendigkeit eines doppelten Vorgehens: einerseits eine Vertiefung der wissenschaftlichen Forschung, andererseits eine Übung in moralischer und geistlicher Unterscheidung. […]

KI-Systeme ahmen bestimmte Funktionen der menschlichen Intelligenz nach. Dabei übertreffen sie sie oft an Geschwindigkeit und Rechenleistung und bieten somit in zahlreichen Bereichen konkrete Vorteile. Diese Leistungsfähigkeit hat jedoch ausschließlich mit der Datenverarbeitung zu tun: Sogenannte Künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Leib, empfinden weder Freude noch Schmerz, reifen nicht in Beziehungen, wissen nicht von ihrem Inneren her, was Liebe, Arbeit, Freundschaft und Verantwortung bedeutet. Sie haben auch kein moralisches Gewissen: Sie unterscheiden nicht zwischen Gut und Böse, sie erkennen nicht den eigentlichen Sinn von Situationen und sie nehmen die Last der Konsequenzen nicht auf sich. Sie können Sprache, Verhalten und Beurteilungen imitieren, sie können Empathie oder Verständnis simulieren, aber sie verstehen nicht, was sie damit bewirken, denn sie bewegen sich nicht in jenem affektiven, relationalen und geistigen Horizont, in dem der Mensch zur Weisheit gelangt. Auch wenn diese Werkzeuge als „lernfähig“ dargestellt werden, unterscheidet sich ihre Art des Lernens von der einer menschlichen Person. Es handelt sich nicht um die Erfahrung eines Menschen, der sich vom Leben formen lässt und im Laufe der Zeit durch Entscheidungen, Fehler, Vergebung und Treue wächst; vielmehr ist es eine statistische Anpassung auf der Grundlage von Daten und Rückmeldungen, die zwar sehr effektiv sein kann, aber kein inneres Wachstum impliziert. […] Der Eindruck von Objektivität, den die Antworten und Vorschläge dieser Systeme vermitteln, kann uns vergessen lassen, dass sie das kulturelle Wertesystem derjenigen widerspiegeln, die sie entworfen und trainiert haben, mit all ihren Stärken und Schwächen. […] Wenn Worte simuliert werden, entsteht keine Beziehung, sondern nur der Anschein einer solchen. Die künstliche Nachahmung einer betreuerischen oder begleitenden Beziehung kann gefährlich werden, wenn sie sich in einen Kontext einschleicht, in dem es an echter Beziehung und Zuneigung mangelt: Dann besteht nicht so sehr die Gefahr, dass eine Person glaubt, mit einer anderen Person zu sprechen, sondern dass sie den Wunsch verliert, anderen Personen wirklich zu begegnen. […]

Papst Leo mit einem Obdachlosen. „Sensible Entscheidungen bezüglich Arbeit, Kreditvergabe, Zugang zu Dienstleistungen laufen Gefahr, vollständig automatisierten Systemen überlassen zu werden, die Mitleid, Barmherzigkeit, Vergebung nicht kennen und dadurch neue Formen der Ausgrenzung hervorbringen können.“ (Foto: Bundesagentur für Arbeit)

Mitgefühl statt Macht: Neue Formen der Ausgrenzung verhindern

Aktuelle KI-Systeme erfordern große Mengen an Energie und Wasser, haben erhebliche Auswirkungen auf den Kohlenstoffdioxid-Ausstoß und verbrauchen Ressourcen in großem Umfang. Mit zunehmender Komplexität, insbesondere bei großen Sprachmodellen, wächst auch der Bedarf an Rechenleistung und Speicherkapazität. Das bedeutet wiederum die Notwendigkeit einer Vielzahl von Maschinen, Kabeln, Datenverarbeitungszentren und energieintensiver Infrastruktur. Daher ist es unerlässlich, nachhaltigere technologische Lösungen zu entwickeln, um die Umweltauswirkungen zu verringern und unser gemeinsames Haus zu schützen. […] Der Einsatz von KI ist niemals eine rein technische Angelegenheit: Wenn sie in Prozesse eingebunden wird, die das Leben der Menschen beeinflussen, kommt sie mit Rechten, Chancen, gutem Ruf und Freiheit in Berührung. Sensible Entscheidungen bezüglich Arbeit, Kreditvergabe, Zugang zu Dienstleistungen und dem guten Ruf von Personen laufen Gefahr, vollständig automatisierten Systemen überlassen zu werden, die Mitleid, Barmherzigkeit, Vergebung und vor allem die Offenheit für die Hoffnung auf eine Veränderung der Person nicht kennen und dadurch neue Formen der Ausgrenzung hervorbringen können. Es kann zu eindeutig menschenverachtenden Anwendungen kommen, wie etwa der Manipulation von Informationen oder der Verletzung der Privatsphäre. Aber es kann sich auch eine weniger offensichtliche Gefahr einstellen, wenn KI-Systeme, die sich neutral und objektiv geben, Stereotypen oder ideologische Standpunkte ihrer Entwickler und Programmierer widerspiegeln und verstärken. Einem Algorithmus konkret die Macht zu übertragen, zu bestimmen, wem etwas zusteht und wem nicht, ohne dass noch jemand die Last der Entscheidung trägt, bedeutet, ihm die Aufgabe zu übertragen, die Grenzen menschlicher Möglichkeiten neu zu definieren. Was in diesem Prozess verloren geht, ist nicht nur das Mitgefühl für den Ausgeschlossenen, das künstlich nachgeahmt werden kann, sondern auch die politische Verantwortung, denn die Ausgrenzung der Schwachen wird mit Neutralität und Objektivität ummantelt, gegen die man nicht protestieren kann. So wird Ungerechtigkeit lautlos, und Mitgefühl, Barmherzigkeit und Vergebung – nicht als bloße Fassade, sondern als politische Gesten – verschwinden von der Bildfläche. Daraus ergibt sich eine einfache, aber zwingende Konsequenz: Wir können KI nicht als moralisch neutral betrachten. In Wirklichkeit bringt jedes technische Artefakt Entscheidungen und Prioritäten mit sich: was es misst, was es ignoriert, was es optimiert und wie es Menschen und Situationen einstuft. Wenn ein System so konzipiert oder eingesetzt wird, dass es bestimmte Formen von Leben als weniger wertvoll behandelt oder sie ohne Einspruchsmöglichkeit ausschließt, dann ist es nicht ein einfaches Werkzeug, das „gut genutzt“ werden kann: Es führt bereits ein Kriterium ein, das der unveräußerlichen Würde des Menschen entgegensteht. […]

Regeln politisch durchsetzen: Bremsen, wo alles immer schneller wird

Es reicht nicht aus, sich allgemein auf die Ethik zu berufen: Es bedarf angemessener rechtlicher Rahmenbedingungen, unabhängiger Aufsicht, Aufklärung der Nutzer und einer Politik, die sich nicht ihrer Aufgabe entzieht. Andernfalls wird der Wandel nur von technokratischen Logiken bestimmt und als notwendig und unvermeidlich dargestellt, was letztendlich dazu führt, dass Regeln durchgesetzt werden, die von denjenigen diktiert werden, die über Daten, Infrastruktur und Rechenkapazitäten verfügen. Wir dürfen uns nicht darauf beschränken, zu fordern, dass Maschinen moralisch handeln, also die sogenannte „Ausrichtung“ von KI auf menschliche Werte. Wir müssen mutig eine weitere Bedingung stellen, nämlich die Möglichkeit, den anzuwendenden Ethikkodex zu diskutieren und ihn mit Kriterien sozialer Gerechtigkeit abzugleichen, die wir teilen. Andernfalls setzen diejenigen, die KI kontrollieren, ihre eigene moralische Auffassung durch, und diese wird zur unsichtbaren Infrastruktur der Systeme. Eine moralischere KI nützt nichts, wenn diese Moral von wenigen bestimmt wird. Was wir brauchen, ist eine Politik, die präsenter ist, die in der Lage ist, dort zu bremsen, wo alles immer schneller wird, und die Räume zu schützen, in denen Gemeinschaften noch mitwirken und Fragen stellen können. Wie es bei jeder großen technologischen Wende der Fall ist, so neigt auch die KI dazu, vor allem die Macht derjenigen zu stärken, die bereits über wirtschaftliche Ressourcen, Kompetenzen und Zugang zu Daten verfügen. Unter dem Gesichtspunkt des Gemeinwohls und der allgemeinen Bestimmung der Güter wirft dieses Phänomen ernsthafte Bedenken auf: Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik zu ihrem eigenen Vorteil beeinflussen. Dies steht im Widerspruch zur sozialen Gerechtigkeit und Solidarität unter den Völkern. […] Darüber hinaus darf das Eigentum von Daten nicht ausschließlich privaten Einrichtungen anvertraut werden, sondern muss reguliert werden. Daten sind das Ergebnis der Beiträge vieler und dürfen nicht an einige Wenige verkauft oder ihnen überlassen werden.

Machtverhältnisse hinterfragen: KI entwaffnen

Wenn wir von Solidarität sprechen, müssen wir die unsichtbare, oft von Ausbeutung begleitete Arbeit in den Blick nehmen, die hinter algorithmischen Modellen steht. […] Wenn wir von Gerechtigkeit sprechen, müssen wir die Machtverhältnisse hinterfragen, die bestimmen, wer die Modelle trainieren darf und wer lediglich als Trainingsobjekt dient. Wir müssen erkennen, dass soziale Gerechtigkeit nicht nur ein schützenswertes Ziel ist, nachdem eine Technologie eingeführt worden ist, sondern eine Vorbedingung, die bereits bei deren Konzeption berücksichtigt werden muss. Schließlich möchte ich einen Begriff benutzen, der mir am Herzen liegt: „entwaffnen“. KI zu entwaffnen bedeutet, sie der Logik des bewaffneten Wettbewerbs zu entziehen, der heute nicht mehr nur militärischer, sondern auch wirtschaftlicher und kognitiver Natur ist. Bei diesem Wettrennen geht es um den leistungsfähigsten Algorithmus und die größte Datenbank, um einen geopolitischen oder kommerziellen Vorsprung gegenüber allen anderen zu festigen. Entwaffnen bedeutet, diese Gleichsetzung von technischer Macht und dem Recht zu herrschen aufzubrechen. […] Es bedeutet, sie Monopolen zu entziehen, sie hinterfragbar und anfechtbar und damit lebensfreundlich zu machen, sie der Vielfalt menschlicher Kulturen und Lebensweisen zurückzugeben. Die Aufgabe ist heute nicht nur ethischer oder technischer Natur: Sie ist ökologisch im radikalsten Sinne, denn sie betrifft eine neue Dimension unseres gemeinsamen Zuhauses. KI ist bereits eine Umwelt, die uns umgibt, und eine Macht, mit der wir uns auseinandersetzen müssen. Daher reicht es nicht aus, sie zu regulieren: Sie muss entwaffnet und lebensfreundlich gemacht werden. […]

 „Gerade in der Erfahrung der Begrenztheit bleibt der Mensch fähig, eine geschwisterliche Verbundenheit zu erahnen, die größer ist als er selbst, und Ungerechtigkeit als einen Skandal zu sehen.“ (Foto: Frank C. Müller)

Der Mensch als Material: Die Schwächsten zahlen den Preis

Der Wert einer Zivilisation lässt sich nicht an der Macht ihrer Mittel messen, sondern an der Fürsorge, die sie zu leisten vermag, an der Fähigkeit, den Mitmenschen als ein personales Gegenüber und nicht nur als Funktion zu sehen. Die Fähigkeit, füreinander zu sorgen, ist eine wichtige Dimension unseres Menschseins. Diese Fähigkeit erlernt und verfeinert man durch Erfahrung. […] Um die kulturellen Prämissen herauszustellen, die mit der laufenden digitalen Revolution einhergehen, möchte ich die Aufmerksamkeit nun auf einige Strömungen lenken, für die der Fortschritt in einem über die menschliche Natur Hinausgehen besteht und die wir unter den Begriffen Transhumanismus und Posthumanismus zusammenfassen können. Sie bilden den ideologischen Hintergrund, der in einigen technologischen Machtzentren anzutreffen ist, und kolonisieren vereinfachend das kollektive Bewusstsein insbesondere in den Medien und sozialen Netzwerken, indem sie mit einer futuristischen Vision vom „verbesserten Menschen“ (enhanced human) oder vom „Hybriden aus Mensch und Maschine“ Begeisterung für die neuen Technologien wecken. […] Wenn der Mensch als Material behandelt wird, das man vervollkommnen oder überwinden muss, dann wird es leichter akzeptabel, dass einige Menschen als weniger nützlich, weniger liebenswert, weniger würdig angesehen werden. Im Namen des Fortschritts kann man „notwendige Opfer“ in Betracht ziehen und so die Schwächsten den Preis für eine vermeintliche Optimierung der Spezies zahlen lassen. […] Auch wenn die Begrenztheit als innerer Schmerz erfahren wird, sagt uns die menschliche Weisheit, ihn nicht zu beseitigen oder zu unterdrücken, sondern ihn zu integrieren. Um den Schmerz vollständig zu unterdrücken, müsste man letztendlich auch die Liebe und die Sehnsucht auslöschen. Wer liebt und etwas ersehnt, kann Prüfungen und Leiden nämlich nicht vermeiden, und deshalb bewahren wir Lehren in uns, die sich über die Jahre wie Narben einprägen, eine Erinnerung an den Weg, den wir zwischen Freiheit und Niederlagen, zwischen Träumen und Enttäuschungen zurückgelegt haben. Nur dank der Verflechtung dieser Elemente geschehen im Herzen jene Wunder der Seele, die uns den höchsten Genuss unseres Menschseins kosten lassen. […] Und gerade in der Erfahrung der Begrenztheit bleibt der Mensch fähig, eine geschwisterliche Verbundenheit zu erahnen, die größer ist als er selbst, und Ungerechtigkeit als einen Skandal zu sehen. Kultur und Kunst hüten, wenn sie authentisch sind, diesen Funken und verhindern damit die Normalisierung des Bösen. So haben einige Werke einen fast prophetischen Wert erlangt: Beethovens Neunte als Sehnsucht nach Einheit; Guernica als Anklage gegen die Entmenschlichung; Schindlers Liste als Aufforderung, die Vergangenheit nicht in Vergessenheit fallen zu lassen. […]

Demokratie schützen: KI verstärkt Desinformation

Die Nutzung von digitalen Plattformen und von KI-Systemen beschleunigt die tiefgreifenden Veränderungen der öffentlichen und politischen Kommunikation. Mittel, die den Dialog und die Teilhabe fördern könnten, werden oft dazu genutzt, verzerrte Narrative zu konstruieren und die Grenzen zwischen dem Wahren und Falschen zu verwischen, indem Tatsachen und Meinungen vermischt werden. Desinformation hat nicht erst mit der KI begonnen, findet in ihr jedoch einen wirkungsvollen Verstärker. Die Möglichkeit, Inhalte, Bilder und Videos zu manipulieren, setzt die Bürger einseitigen oder irreführenden Sichtweisen aus. Das Problem betrifft sowohl die kulturelle als auch die moralische Dimension, weil die Qualität der öffentlichen Kommunikation direkt vom sozialen Vertrauen abhängt und dieses beeinflusst. Wahrheitsgetreue Information entsteht nämlich nicht durch zentralisierte oder automatisierte Kontrolle. […] Diejenigen, die über gewaltige technische und wirtschaftliche Ressourcen verfügen – und damit auch über viele personelle Ressourcen, mit denen sie sich einbringen können –, verfügen über eine beträchtliche Fähigkeit, kulturelle Veränderungen herbeizuführen und letztlich eine bedeutende Zahl von Menschen zu beeinflussen: hinsichtlich der Frage, was wahr ist in Bezug auf den Menschen und die Welt, den Sinn des Lebens, die Familie und sogar Gott. Dies ist reine Macht ohne Wahrheit, die anderen auf subtile oder offene Weise aufzwingt, was sie als wahr ansehen sollen. Hinter all dem verbirgt sich eine krankhafte Wurzel. […] Die Suche nach der Wahrheit ist ein wesentlicher Bestandteil der Demokratie, die ihrerseits ein Mittel zur Mitwirkung am Gemeinwohl ist. Wenn die Frage nach dem, was wahr ist, ihre Bedeutung verliert und an ihre Stelle ein Pragmatismus tritt, der sich mit dem begnügt, was nützlich oder wirksam zu sein scheint, wird das demokratische Leben schwächer. […] Aus diesem Grund verfügen diejenigen, die digitale Plattformen und Medien kontrollieren, über eine beträchtliche Fähigkeit, auf die kollektive Vorstellungskraft einzuwirken und eine bestimmte Sicht der Wirklichkeit als erstrebenswert darzustellen. Diese Macht verlangt von uns, stets vom Streben nach Wahrheit und von der Achtung der Menschenwürde geleitet sein, damit die im Internet entstehende Kultur nicht zu einem Mittel übermäßiger Ablenkung, Vereinheitlichung und Herrschaft wird, sondern zu einem Raum, in dem innere Freiheit und kritisches Denken gedeihen können. […] Die Wahrheit ist ein Gemeingut und nicht das Eigentum derer, die Macht oder Sichtbarkeit besitzen. […]

Sex und Mobbing: KI besonders für junge Menschen gefährlich

In den letzten Jahren hat die psychologische und psychiatrische Fachliteratur mit zunehmender Nachdrücklichkeit dokumentiert, wie ein verfrühter und unbeaufsichtigter Umgang mit digitalen Geräten und sozialen Medien den Schlaf, die Aufmerksamkeit, die emotionale Regulierung und die Beziehungen negativ beeinflussen kann, insbesondere während der besonders sensiblen Entwicklungsphasen und oft mit dramatischen Folgen. Hinzu kommt der leichte Zugang zu gewalttätigen oder grausamen Szenen, die die Sensibilität beeinträchtigen, zu pornografischen und hypersexualisierten Inhalten, zu Nachrichten, die den Körper und die Gefühle trivialisieren, sowie zu Angeboten, die riskantes Verhalten normalisieren. Online-Phänomene wie Grooming, Erpressung und sexuelle Ausbeutung von Minderjährigen sind keine Seltenheit und sie werden noch heimtückischer durch die Nutzung von gefälschten Profilen, von Algorithmen, die gefährliche Kontakte erleichtern, sowie von KI-Tools, die Bilder und Videos manipulieren. Zu früh über ein eigenes Mobiltelefon zu verfügen und es ohne Aufsicht durch Erwachsene zu nutzen, kann junge Menschen noch verletzlicher werden lassen und Abhängigkeiten fördern, indem sie Isolation, Mobbing und Cybermobbing ausgesetzt werden und unter Druck geraten, intime Bilder oder sensible Daten weiterzugeben. […]

 „Die Gewerkschaften, die die Kirche stets unterstützt hat, sind aufgerufen, sich für die neuartigen Arbeitsformen und die neuen Arbeitnehmer zu öffnen, um sie in einem Umfeld zu vertreten und zu verteidigen, in dem sich ohne mutige Entscheidungen mehr Armut und mehr Ungleichheit abzeichnen.“ (Foto: Verdi)

KI und Arbeitswelt: Soziale Teilhabe statt Gewinnstreben

Seit den Anfängen der Soziallehre […] hat die Kirche auf den Schutz der Arbeitnehmer und die Notwendigkeit hingewiesen, alle Formen der Ausbeutung zu bekämpfen. […] Das Zusammenspiel von Automatisierung, Robotik und KI verändert heute in rasantem Tempo die Struktur der Arbeit selbst. […] Es ist sicherlich wünschenswert, dass die Technologie den Menschen von einigen besonders beschwerlichen, monotonen oder gefährlichen Tätigkeiten entlastet und die menschliche Tätigkeit auf intelligente Weise unterstützt, doch muss der Schutz der Arbeitsplätze und die unersetzliche Rolle des Menschen die allgemeine Regel bleiben. Das Streben nach höheren Gewinnen kann keine Entscheidungen rechtfertigen, die systematisch Arbeitsplätze opfern, weil der Mensch Ziel und nicht Mittel ist, und die Wirtschaftsordnung seiner Würde und dem Gemeinwohl untergeordnet bleiben muss. […] Angesichts der Ungleichheit, die unsere Welt kennzeichnet, hat die Verbreitung von KI und Computersystemen an verschiedenen Orten unterschiedliche Auswirkungen. Wohlhabende Gesellschaften automatisieren rasch und chaotisch, wodurch der Bedarf an Arbeitskräften sinkt und Felder der Arbeitslosigkeit sowie institutionelle Spannungen entstehen. Weite Teile der Welt bleiben hingegen in hybriden Wirtschaftssystemen gefangen, in denen unterbezahlte menschliche Arbeitskraft und unvollständige Technologien nebeneinander bestehen, ohne dass jemals eine echte Transformation stattfindet. Diese Gebiete werden zu Sammelbecken für Beschäftigte in prekären Arbeitsverhältnissen und zu Nährböden für Instabilität und Zwangsmigration. Lösungen müssen daher auf nationaler und lokaler Ebene gefunden werden, unter Einbeziehung der intermediären Körperschaften. Es bedarf anpassungsfähiger Instrumente: vielschichtiger Modelle, lokaler Experimente, weitergehender Umverteilung und neuer Zugangsrechte zu lebensnotwendigen Gütern. Ohne eine abstrakte Harmonie anzustreben, geht es darum, konkrete Formen des menschlichen Zusammenlebens im Rahmen dieses Wandels zu schaffen. […] Aus diesem Grund besteht die Soziallehre der Kirche darauf, dass der Zugang zur Arbeit für alle ein vorrangiges Ziel der Politik und der wirtschaftlichen Prozesse sein muss, ein Kriterium, um die menschliche Qualität eines Entwicklungsmodells zu beurteilen. Darüber hinaus ist es in jenen Teilen der Welt, in denen Arbeit aufgrund technologischer und organisatorischer Prozesse, die sich der demokratischen Kontrolle entziehen, tendenziell abnimmt oder sich radikal verändert, notwendig, die Arbeit und ihr Verhältnis zum bürgerschaftlichen Engagement zu überdenken, damit die fehlende Beschäftigung nicht die soziale Teilhabe beeinträchtigt. […] Heute reichen diese Maßnahmen jedoch angesichts der durch KI hervorgerufenen Veränderungen, der neuen Organisation der Märkte und eines Wettbewerbs, der selten auf soziale Nachhaltigkeit achtet, allein nicht mehr aus. Es bedarf einer neuen gemeinsamen Anstrengung von politischen Entscheidungsträgern, Arbeitnehmerorganisationen, der Wirtschaft und der Wissenschaft, um rasch angemessene und einvernehmliche Regeln und Schutzmaßnahmen auszuarbeiten, auch auf internationaler Ebene. Die Gewerkschaften, die die Kirche stets unterstützt hat, sind aufgerufen, sich für die neuartigen Arbeitsformen und die neuen Arbeitnehmer zu öffnen, um sie in einem Umfeld zu vertreten und zu verteidigen, in dem sich ohne mutige Entscheidungen mehr Armut und mehr Ungleichheit abzeichnen, mit einer Vielzahl von Ausgegrenzten, die von Maschinen und automatisierten Systemen umgeben sind, die an ihre Stelle getreten sind. […]

Papst Leo setzt sich für den Schutz der Jugend vor KI ein: „Im Zeitalter von KI und Robotik ist es nicht mehr möglich, sich auf die ‚unsichtbare Hand‘ des Marktes zu verlassen.“ (Foto: Dontworry)

KI und Arbeit: Eine neue Form der Sklaverei

Die Finanzbranche hat in den letzten Jahren zunehmend an Bedeutung gewonnen und auch infolge der Einführung von Kryptowährungen einen starken Innovationsschub erlebt. […] Während in einigen Regionen Gelder für überflüssige Eingriffe oder für Träume von individueller Selbstoptimierung ausgegeben werden, die sich nur wenige Menschen leisten können, fehlt in anderen Teilen der Welt nach wie vor grundlegende Ausrüstung, um Millionen von Menschenleben zu sichern. Zu glauben, dass neue Technologien automatisch allen zugutekommen, bedeutet, eine offensichtliche Tatsache zu ignorieren: Wenn nicht bereits bei der Konzeption von Veränderungen die Vermeidung neuer und weiterer Ungleichheiten im Vordergrund steht, führt der technologische Fortschritt automatisch zu strukturellen Ungleichheiten. Gerechtigkeit bedeutet heute auch, Zugang zu den Errungenschaften der Innovation zu haben: Behandlungen, Wissen, Instrumente, Gelegenheiten. Gerechte Gesetze und Umverteilungsprozesse sind zweifellos notwendig, um Ungleichgewichte zu korrigieren, unter anderem durch Steuersysteme, die die Schwächsten entlasten und von denjenigen mit größeren Ressourcen mehr verlangen. […] Umso mehr ist es im Zeitalter von KI und Robotik nicht mehr möglich, sich allein auf die „unsichtbare Hand“ des Marktes zu verlassen. Die Politik hat die Aufgabe, die wirtschaftlich-technologischen Dynamiken auf das Gemeinwohl auszurichten und menschenwürdige Arbeit, soziale Inklusion sowie eine gerechte Verteilung der Vorteile der Innovation zu fördern. Da viele wirtschaftliche Entscheidungen über die Staatsgrenzen hinausreichen, ist auch eine internationale Zusammenarbeit erforderlich, die in der Lage ist, gemeinsame Strategien zu entwickeln, insbesondere zugunsten der am stärksten benachteiligten Länder und Bevölkerungsgruppen, um die Entwicklung zu fördern und die Abhängigkeit von Hilfsleistungen zu überwinden. […] Ein wesentlicher Teil der Funktionsweise der digitalen Wirtschaft beruht auf der stillen Arbeit von Millionen von Menschen, die in wenig sichtbaren, aber unverzichtbaren Tätigkeiten beschäftigt sind: Datenbeschriftung, Moderation von Inhalten – oftmals der schlimmsten Art – und Modelltraining. In vielen Fällen handelt es sich um junge Menschen, zumeist Frauen, die für einen Mindestlohn hart arbeiten. Zu dieser unsichtbaren Mühe kommt die noch brutalere Arbeit hinzu, die Ressourcen zu gewinnen, die für die Herstellung der Geräte und Mikroprozessoren benötigt werden, auf denen KI basiert. In einigen Regionen der Welt arbeiten Kinder und Jugendliche unter gefährlichen Bedingungen und zerkleinern Materialien, aus denen Seltenerdmetalle gewonnen werden. Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt. Darüber hinaus nutzen kriminelle Netzwerke Online-Plattformen, Messaging-Systeme, anonyme Zahlungsmethoden und Profiling-Techniken, um Opfer – häufig Minderjährige – für den Menschenhandel zu gewinnen, zu kontrollieren und zu transportieren, wobei Männer und Frauen innerhalb derselben digitalen Kreisläufe, die einen Großteil der Weltwirtschaft stützen, zu „Daten“ werden, die zu verfolgen, und zu „Paketen“ werden, die zu verschieben sind. Diese Wirklichkeit stellt das Gewissen unserer Zeit vor eine große Herausforderung. Es reicht nicht aus, sich auf Effizienz zu berufen oder die Vorteile der Innovation zu preisen, wenn diese auf einer Ausbeutungskette beruhen, die bewusst verborgen bleibt. Wenn eine Technologie Emanzipation verspricht, aber weltweit neue Formen der Unterordnung hervorbringt, dann widerspricht sie dem Grundprinzip der Menschenwürde. Der Kampf gegen die neuen Formen der Sklaverei ist eine entscheidende Bewährungsprobe für das ethische Urteilsvermögen im Hinblick auf KI und den digitalen Wandel. […] Es ist unvermeidlich, tiefen Schmerz angesichts des enormen Leidens und der Demütigung zu empfinden, die die Sklaverei für so viele Menschen bedeutete und ein Gegensatz zu ihrer grenzenlosen und vom Herrn unendlich geliebten Würde war. Dafür bitte ich im Namen der Kirche aufrichtig um Vergebung. Genau aus diesem Grund wird die Erinnerung an die Komplizenschaft und an die Blindheit von gestern im Hinblick auf die Ungerechtigkeit der Sklaverei zu einem Aufruf zur Wachsamkeit: Was wir gelernt haben, muss zu Urteilsvermögen und Verantwortlichkeit in der Gegenwart werden. […] In unseren Tagen zeigt der Kolonialismus ein neues Gesicht. Er beherrscht nicht mehr nur Körper, sondern eignet sich Daten an und verwandelt das persönliche Leben in verwertbare Informationen. Ganze Gebiete, insbesondere jene mit geringerer geopolitischer Bedeutung und größerer struktureller Anfälligkeit, werden derzeit von einer neuen Logik der Ausbeutung durchzogen: Gesundheitsdaten, epidemiologische Profile, genetische Karten und demografische Daten. Dies sind die neuen „Seltenen Erden“ der Macht: lebenswichtige Informationen, die, sobald sie miteinander verknüpft sind, dazu genutzt werden können, Vorhersagemodelle zu trainieren, Investitionsstrategien zu lenken, Krisen vorauszusehen und vor allem auszuwählen, wer und was zählt. Wer über die Gesundheitsdaten ganzer Bevölkerungen verfügt – heute oft unter dem Deckmantel von Forschungsinnovation oder Entwicklungshilfe erhoben –, besitzt in Wirklichkeit einen strukturellen Hebel für die Zukunft: Er kann die Bedürfnisse und die Märkte gestalten. Und er kann vor anderen entscheiden, wem Medikamente, Investitionen und Schutzmaßnahmen zugeteilt werden. Hierin liegt eine der dringlichsten moralischen Herausforderungen unserer Zeit: gemeinsames Wissen in ein Gemeingut zu verwandeln, statt es als Beherrschungsinstrument zu nutzen. Das bedeutet, den Menschen nicht nur die Daten zurückzugeben, die sie beschreiben, sondern auch die Möglichkeit, zu entscheiden, wie diese genutzt werden, von wem und für wen. Andernfalls wird das digitale Zeitalter nicht postkolonial sein, sondern in einer anderen Form kolonial. […]

Papst Leo mit einem Geflüchteten und dessen Kind. „Ohne eine lebendige Erinnerung an die Schrecken des Krieges besteht die Gefahr, dass politische Entscheidungen auf der Grundlage von Machtkalkülen getroffen werden, ohne Weitblick für die langfristigen Folgen.“ (Foto: PD/Wikipedia)

KI und immer mehr Kriege: Die Rüstungsindustrie profitiert

Heute erleben wir im öffentlichen Diskurs und bei den Entscheidungen zur Aufrüstung jedoch einen echten Paradigmenwechsel, mit einer besorgniserregenden Rehabilitierung des Krieges als Instrument der internationalen Politik, während gerade jene ethischen Kriterien, die seinen Einsatz begrenzen, ausgehöhlt werden. Sich hinziehende regionale Konflikte, eskalierende Spannungen und gegenseitige Drohungen werden fast schon zur Normalität, und Formen von Konflikten um territoriale Expansion, die man für überwunden hielt, tauchen wieder auf. Die öffentliche Meinung wird zunehmend von einem polarisierenden Narrativ in den Medien, das oft durch Algorithmen verstärkt wird, die Konflikte und Konfrontationen in den Vordergrund stellen, geprägt und an dieses gewöhnt. Wir erleben zudem einen besorgniserregenden Verlust an historischem Gedächtnis. Das Verblassen direkter Zeugnisse von der Shoah und den beiden Weltkriegen erleichtert eine selektive oder verzerrte Umschreibung der Vergangenheit, in einem Klima, in dem Fake News und narrative Manipulationen die gewonnenen Erkenntnisse verschleiern. Ohne eine lebendige Erinnerung an die Schrecken des Krieges besteht die Gefahr, dass politische Entscheidungen auf der Grundlage von Machtkalkülen getroffen werden, ohne Weitblick für die langfristigen Folgen. […] Ein entscheidendes Element der gegenwärtigen Lage ist das Wachstum der Rüstungsindustrie, die in einigen Ländern zu einem Schlüsselsektor der Wirtschaft geworden ist. Die enge Verbindung zwischen wirtschaftlichen Interessen, politischen Entscheidungen und Militärapparat schafft eine „bewaffnete Nation“, in der Krieg fast wie eine natürliche Fortsetzung der Politik erscheint und der Rüstungsmarkt zu einer eigenständigen Triebkraft für kriegerische Entscheidungen wird. Wir dürfen die enormen wirtschaftlichen Interessen hinter dem Krieg nicht ignorieren. Die Rüstungsindustrie und die Länder, die Waffen liefern, profitieren von einem Markt, der gerade dank der Konflikte gedeiht. In diesem Sinne gibt es auch eine wirtschaftliche Logik, die dazu beiträgt, Spannungen in verschiedenen Regionen der Welt zu schüren. […] Mit diesem Szenario geht die unaufhörliche Weiterentwicklung von Waffensystemen einher, insbesondere von Waffen, die KI nutzen. […] KI neigt dazu, Entscheidungszeiten zu komprimieren; doch im Krieg dürfen für irreversible Entscheidungen nicht Schnelligkeit und Effizienz die obersten Kriterien sein. Das […] Kriterium ist die Unterscheidung und der Schutz von Zivilisten. Jede Technologie, die es einfacher macht, anzugreifen, ohne das Gesicht des anderen zu sehen, senkt die moralische Schwelle des Konflikts. Bei der Auswahl von Zielen und der Anwendung von Gewalt dürfen weder Kombattanten und Nonkombattanten verwechselt werden, noch dürfen die Auswirkungen auf wehrlose Bevölkerungsgruppen ignoriert werden. […] Es gibt Konflikte, bei denen es nicht richtig ist, neutral zu bleiben, und es nicht ausreicht, zu glauben, dass man „kein Komplize ist“. Angesichts von Bombenangriffen auf Zivilisten, Angriffen auf Krankenhäuser, Schulen oder lebenswichtige Infrastruktur sowie Gewalt, die Kinder trifft, sehen wir uns mit Skandalen konfrontiert, die die Menschheit selbst verwunden. […] Der Sichtweise und Stimme der Opfer bei der Information und Bildung Raum zu geben, hilft dabei, sich der Abgründe des Bösen, die im Krieg und allgemein in jeder Form von Gewalt liegen, wirklich bewusst zu werden; die Logik des Konflikts nicht als normal hinzunehmen; den Blick nicht abzuwenden, wenn die Menschenwürde verletzt wird; und den Betroffenen die Würde zurückzugeben, anerkannt und angehört zu werden.

Hinweis: Die über 50 Seiten lange Enzyklika Magnifica Humanitas ist in Kapitel und Verse mit Zwischenüberschriften gegliedert. In dieser Abhandlung wurde die Reihenfolge des Originaltextes nicht geändert, Auslassungen sind gekennzeichnet. Einzig die Zwischenüberschriften in unserem Beitrag wurden unter Verwendung von Originalzitaten aus dem Text redaktionell hinzugefügt.

Der komplette Text: Magifica Humanitas

Mutiger Leo legt sich an

(ho). Papst Leo positioniert sich bei Themen wie Geflüchteten, dem Krieg im Iran und internationaler Verantwortung deutlich gegen Abschottung und Gewalt sowie gegen eine Politik, die Menschen vor allem als Sicherheitsproblem betrachtet. Geflüchtete würden „wie Müll behandelt“, sagte er. Sie seien aber „Brüder und Schwestern“ und „Missionare des Glaubens“. Das Oberhaupt der katholischen Christ*innen setzte sich auch für die Menschen in Gaza ein, die „wirklich leiden“ und kritisierte die israelische Regierung scharf wegen ihres brutalen Vorgehens. Was den Krieg anbetrifft, den Russland gegen die Ukraine führt, hat er sich als Vermittler angeboten. Wörtlich sagte er: „Lasst die Waffen schweigen! Hört auf mit den Bombardierungen! Es muss unverzüglich ein Waffenstillstand erreicht und der Dialog verstärkt werden, um den Weg zum Frieden zu ebnen.“ Zum Szenario von US-Präsident Donald Trump, das iranische Volk auszulöschen, fand Leo scharfe Worte: „Die Drohung gegen das iranische Volk ist inakzeptabel.“ Als Trump dann markig zurückpolterte, sagte Leo: „Ich habe keine Angst. Ich verkünde das Evangelium.“

Diese Seite teilen bei: