Aufgaben

Ein faszinierendes und unheimliches Instrument

Papst Franziskus

¹ Botschaft zum 57. Weltfriedenstag am 01. Januar 2024

² Werkzeug sui generis: (hier im Sinne von) ein Werkzeug, das seinesgleichen sucht

Papst Franziskus: Ein faszinierendes und unheimliches Instrument. Langfassung der Rede vom

14.06.2024 beim G7-Forum in Borgo Egnazia, Italien (gekürzt; zuletzt aufgerufen am 23.08.2025)

Das intergouvernementale G7-Forum ist eine Zusammenkunft der Staats- und Regierungschefs der führenden

sieben westlichen Industrienationen.

1) Zentrale Aussagen von Papst Franziskus

• Papst Franziskus setzt sich in seiner Rede mit den Chancen und Risiken Künstlicher Intelligenz (KI) auseinander und fordert zugleich, ihren Einsatz durch ethische und politische Rahmenbedingungen zu begleiten.

• Nach Franziskus geht KI aus dem schöpferischen Potenzial des Menschen hervor, das diesem von Gott verliehen worden sei. Durch technische Neuerungen könne der Mensch seine Lebenswirklichkeit erweitern und verändern.

• Der Fortschritt im Bereich der KI eröffne große Möglichkeiten, etwa beim Zugang zu Wissen oder bei der Automatisierung von Arbeitsprozessen. Gleichzeitig könne er erhebliche Gefahren für das gesellschaftliche Zusammenleben mit sich bringen. Entscheidend sei daher, wie diese Technik eingesetzt werde. Eine ethische Bewertung ihrer Nutzung sei deshalb unverzichtbar.

• Kennzeichnend für KI sei, dass sie auf Grundlage von Algorithmen eigenständig Auswahlentscheidungen treffen und durch Prozessoptimierung die ihr übertragenen Aufgaben verändern könne, ohne dabei menschliche Emotionen zu berücksichtigen.

• Franziskus warnt davor, dass der Mensch durch KI Kontrolle und Selbstbestimmung verlieren könnte. Dadurch werde letztlich auch die Menschenwürde gefährdet. Deshalb müsse sichergestellt sein, dass der Mensch die Kontrolle behält und die letzte Entscheidungsgewalt nicht an Maschinen abgibt.

• Ein weiteres Problem sieht Franziskus in der Machtkonzentration bei denjenigen, die KI entwickeln und programmieren. Dadurch könnten Manipulationen entstehen, die den Menschen auf bestimmte messbare oder vorgegebene Merkmale reduzieren. Besonders problematisch sei dies, wenn zugleich das gesellschaftliche Bewusstsein für die Bedeutung der Menschenwürde schwinde.

• Abschließend fordert Franziskus die Politik dazu auf, verbindliche Regeln für einen verantwortungsvollen Umgang mit KI zu schaffen.

2) Grundannahmen des biblisch-christlichen Menschenbildes

• Franziskus bezeichnet Wissenschaft und Technik als „einzigartige Ergebnisse des kreativen Potenzials von uns Menschen“ (Z. 7 f.). In ihnen zeige sich eine Spur des „Darüberhinausgehens“ (Z. 40) über die rein biologische Existenz des Menschen hinaus. Aus religiöser Perspektive kann der Mensch deshalb als suchendes Wesen verstanden werden, das sein Leben gestaltet und nach mehr strebt als nach dem unmittelbar Gegebenen. Auch Erfahrungen von Transzendenz lassen sich damit verbinden.

• Zugleich betont Franziskus, dass KI so gestaltet werden müsse, dass die besondere Würde des Menschen jederzeit geschützt bleibe (vgl. z. B. Z. 50–54). Nach biblischem Verständnis ist der Mensch ein einmaliges, von Gott bejahtes und mit besonderen Fähigkeiten ausgestattetes Geschöpf (vgl. Gen 1–2; Ps 8). Als Ebenbild Gottes (vgl. Gen 1,26 f.) soll er Verantwortung für die Erde übernehmen und seinen Gestaltungs- und Bewahrungsauftrag erfüllen (vgl. Gen 2,15).

• Für Franziskus gehört zum Menschsein der „einzigartige Zustand zwischen Freiheit und Verantwortung“ (Z. 56). Biblisch gesehen wird der Mensch von Fremdbestimmung befreit und zu verantwortlicher Selbstbestimmung in Gemeinschaft mit anderen berufen (vgl. Ex 20,1 f.). Diese Freiheit ist zugleich mit einem Anspruch verbunden, der etwa im Dekalog (vgl. Dtn 5,6–21) oder in der Bergpredigt (vgl. Mt 5–7) deutlich wird. Als soziales Wesen (vgl. Gen 2,18) ist der Mensch auf Gemeinschaft und gegenseitige Verantwortung angewiesen.

• Gleichzeitig weist Franziskus darauf hin, dass „die Menschheit (…) gerade wegen ihrer radikalen Freiheit die Ziele ihres Daseins nicht selten pervertiert [habe], indem sie sich selbst und dem Planeten zum Feind wurde“ (Z. 47 ff.). Auch die Bibel beschreibt, dass der Mensch seine Freiheit missbrauchen und sich gegen Gottes Gebote stellen kann (vgl. Gen 3–9). Dieses Zurückbleiben hinter dem Anspruch Gottes und den eigenen moralischen Möglichkeiten wird als „Sünde“ verstanden. Zugleich eröffnet die Vorstellung von Schuld und Vergebung die Möglichkeit, Fehlentwicklungen zu erkennen, umzukehren und neue Wege zu gehen (vgl. Lk 15,11–32).

3) Ethische Implikationen Künstlicher Intelligenz

• Franziskus bezeichnet KI als „ein äußerst mächtiges Instrument“ (Z. 11). Sie könne dem Menschen viele neue Möglichkeiten eröffnen und ihn von belastenden Tätigkeiten entlasten, gleichzeitig aber auch erhebliche Risiken verursachen. Ob KI zum Guten oder zum Schlechten eingesetzt werde, hänge von ihrer konkreten Nutzung ab (vgl. Z. 11–34). Diese Ambivalenz zeigt sich etwa bei ChatGPT als Wissenshilfe oder Ersatz für eigenes Denken, bei Pflegerobotern als Unterstützung oder Ersatz für menschliche Pflegekräfte, bei Drohnen als Aufklärungsinstrument oder autonome Waffe sowie bei KI-Systemen in der Justiz als Hilfsmittel oder Entscheidungsinstanz. Deshalb seien klare Regeln für ihren Einsatz notwendig (vgl. Z. 121 ff.).

• Franziskus beschreibt KI als „Werkzeug sui generis“ (Z. 66), das Aufgaben selbstständig optimieren und eigenständig Auswahlentscheidungen treffen könne (vgl. Z. 69 ff.). Damit stellt sich besonders die Frage, wer für Fehler und Fehlentscheidungen verantwortlich ist, etwa bei Falschinformationen, fehlerhaften medizinischen Empfehlungen oder falschen KI-Entscheidungen. Auch der Schutz vor Hackerangriffen und damit die Cybersicherheit sind in diesem Zusammenhang bedeutsam.

• Nach Franziskus ist allein der Mensch unabhängig von Formeln und Parametern „in seinem Herzen zu einer Entscheidung fähig“ (Z. 77 f.). KI besitzt weder Gewissen noch Empathie. Entscheidungen, die allein auf statistischen Daten oder Algorithmen beruhen, können deshalb individuelle Lebenssituationen unzureichend berücksichtigen. Werden auf dieser Grundlage etwa Haftstrafen, Erfolgschancen oder Fragen körperlicher Unversehrtheit beurteilt, kann dies die Menschenwürde verletzen.

• Franziskus betont zudem, dass Technik nie vollständig wertneutral sei, weil sich in ihrer Entwicklung und Programmierung immer auch weltanschauliche Vorstellungen widerspiegeln können (vgl. Z. 104–112). Da große Tech-Konzerne durch die Entwicklung und Kontrolle von KI erhebliche Macht gewinnen, entstehen Risiken wie Überwachung, Manipulation, Fake News, Deepfakes, Filterblasen und Diskriminierung.

4) Soll sich die Kirche mit technologischen Fragestellungen auseinandersetzen?

• Es spricht viel dafür, dass Kirche und Theologie sich mit neuen Technologien und ihren gesellschaftlichen Folgen beschäftigen. Sie können dabei untersuchen, welches Potenzial technische Entwicklungen auch für die Glaubenspraxis besitzen, etwa durch digitale Begegnungsräume oder technische Angebote im religiösen Bereich. Eine solche Beschäftigung ist nicht glaubensfremd, sondern kann als Aufmerksamkeit gegenüber den „Zeichen der Zeit“ verstanden werden.

• Zudem begegnen im heutigen Technikdiskurs zahlreiche Vorstellungen, die religiöse Themen berühren, etwa Allmachtsfantasien, die Hoffnung auf Leidbefreiung oder die technische Optimierung des Menschen. Solche Entwicklungen stehen in direktem Zusammenhang mit dem biblisch-christlichen Menschenbild und sollten deshalb auch theologisch reflektiert werden.

• Die Kirche verfügt über einen umfangreichen Erfahrungsschatz im Umgang mit sozialen, religiösen und spirituellen Bedürfnissen des Menschen. Dadurch kann sie insbesondere bei Fragen der Maschinenethik wichtige Perspektiven einbringen. Wenn sie sich an der Diskussion um neue Technologien beteiligt, kann sie dazu beitragen, dass bei deren Entwicklung bestimmte Werte und Menschenbilder berücksichtigt werden. Ohne diese Beteiligung würde technischer Fortschritt ohne kirchlichen Einfluss stattfinden.

• Gegen eine starke Beteiligung spricht allerdings, dass die Kirche bei neuen Themen wie KI und Digitalisierung noch keine vergleichbar ausgearbeitete theologische Grundlage besitzt wie bei klassischen ethischen Fragen, etwa Sterbehilfe oder Krieg und Frieden. Zudem ist ihr gesellschaftlicher Einfluss in einer zunehmend säkularen Gesellschaft begrenzt. Daher ist fraglich, wie stark sie technologische Entwicklungen tatsächlich prägen kann.

• Auch eine intensive Auseinandersetzung mit technischen Fragen wird Kirchenaustritte und den Rückgang des Glaubens in vielen europäischen Gesellschaften kaum stoppen. Deshalb lässt sich auch die Position vertreten, dass die Kirche sich stärker auf ihre zentrale Aufgabe konzentrieren sollte, nämlich die Verkündigung der christlichen Botschaft.