Selbstfahrende Taxis, automatische Kassen, putzende Roboter, Hotelrezeptionen ohne Personal, Drohnen als Paketboten. Was vor Jahren noch als Science-Fiction galt, ist heute bereits an vielen Orten Realität – die „Künstliche Intelligenz“ (KI) macht‘s möglich. Doch das war nur der Anfang: Die rasende Entwicklung von KI ist dabei, einen Quantensprung zu vollziehen und in alle Lebensbereiche des Menschen vorzudringen. Unermesslich reich an Chancen für eine bessere Welt von morgen – genauso risikoreich und gefährlich bis hin zum Kontrollverlust der Menschheit über die Technologie. Goethes Zauberlehrling lässt grüßen.

Nun ist keine neue Technologie, ob Mechanik oder Cyber, an sich böse. Es kommt darauf an, was der Mensch aus ihr macht und wie er sie zur Anwendung bringt. Deshalb müssen Regeln her. Und dies wird nach dem Willen der gegenwärtigen G7-Präsidentschaft Italiens eines der Hauptthemen auf dem Gipfel der Staats- und Regierungschefs vom 13.-15. Juni 2024 in Apulien sein.

Auf den ersten Blick mag es erstaunen, dass Premierministerin Giorgia Meloni in Absprache mit ihren G7-Amtskollegen Papst Franziskus nach Apulien eingeladen hat. Doch hat die Einladung ihre tiefere Berechtigung: Seit Jahren beobachtet der Vatikan die Forschung zu Künstlicher Intelligenz sehr genau und steht im Dialog mit einschlägigen Wissenschaftlern und Experten. Das gilt insbesondere für Papst Franziskus, der bei verschiedenen Gelegenheiten angedeutet hat, dass er das Thema KI für mindestens so bedeutend für die Zukunft der Menschheit hält, wie etwa den Klimawandel oder die Migration.

Beim G7-Gipfel wird es vor allem um die ethische Dimension von KI gehen sowie um internationale Regeln zum Umgang damit. Es geht nicht mehr darum, was KI alles kann, sondern was sie darf. Was ist moralisch vertretbar und was nicht? Der Heilige Stuhl hat hierzu klare Vorstellungen entwickelt. Einen besonderen Auftrag dazu hatte der Pontifex der Päpstlichen Akademie der Wissenschaft – dem internationalen Think Tank des Vatikans – erteilt. Hier arbeiten Wissenschaftler verschiedener geographischer Provenienz, Konfession und Religionen zusammen.

Auf mehreren Ebenen hat der Heilige Stuhl seither versucht, die Anerkennung ethischer Regeln und Standards international zu verankern und dazu das Gespräch mit den tonangebenden Technologie-Riesen des Silicon Valley zu suchen. Auf Grundlage ihrer Beratungen hatte die Päpstliche Akademie der Wissenschaften bereits 2020 einen Aufruf verfasst, der als „Rome-Call for Artificial Intelligence Ethics“ bekannt ist: Eine Selbstverpflichtung aller, die an KI arbeiten und forschen, moralische Mindeststandards einzuhalten.

Regelwerk statt Selbstkontrolle

Dazu waren seit Ende der Corona-Pandemie die Chefs der Tech-Giganten im Vatikan zu Gast: Von Brad Smith (Microsoft) und John Kelly (IBM) über Tim Cook (Apple) bis hin zu Elon Musk (Tesla, Twitter). Vor kurzem erst hat CEO von Cisco Systems, Chuck Robbins, den Aufruf unterzeichnet – und ist damit der jüngste Technologie-Riese, der sich dem Aufruf der Kirche zum ethischen und verantwortungsvollen Einsatz von KI anschließt.

Das Dokument unterstreicht Transparenz, Einbeziehung, Rechenschaftspflicht, Unparteilichkeit, Zuverlässigkeit, Sicherheit und Privatsphäre. Der Text zitiert die Allgemeine Erklärung der Menschenrechte und betont, dass alle Menschen die gleichen Rechte und die gleiche Würde haben. KI müsse diese Rechte schützen und garantieren. Gleichzeitig wird der Einsatz der KI-Entwicklung für das „Wohl der Menschheit und der Umwelt” gefordert.

Es gebe, so das vatikanische Papier, drei Voraussetzungen dafür, dass „technologischer Fortschritt mit echtem Fortschritt für die Menschheit und Respekt für den Planeten einhergeht”. Diese seien: humane Inklusion, Fokus auf das Wohl der Menschheit und ein nachhaltiger Ansatz zum Schutz des Planeten. Technologie solle auf einer Grundlage des Vertrauens aufgebaut werden, um eine inklusive Zukunft für alle zu ermöglichen, so wird formuliert.

Doch wohlklingende Erklärungen zur Selbstverpflichtung sind das eine, ein wirksames Regelwerk mit Sanktions-Mechanismen das andere. Das weiß man auch im Vatikan. Nicht umsonst wählte Papst Franziskus KI auch als Thema seiner Friedensbotschaft des Jahres 2024. Darin empfahl er den Staats- und Regierungschefs der Welt, einen internationalen Vertrag zur Regelung der Entwicklung und Nutzung von KI zu verabschieden, was nun das Ziel der Papst-Intervention beim G7-Gipfel ist.

Abwägen zwischen Chancen und Risiken

Um zu erahnen, was die Kirche bei dem Megathema bewegt, warum sie warnt und sich derart engagiert, sollte man sich noch einmal die Botschaft des Pontifex zum Jahresbeginn 2024 in Erinnerung rufen, die er auch in schriftlicher Form den großen Staatenlenkern zustellen ließ: „Wir freuen uns zu Recht über die außerordentlichen Errungenschaften von Wissenschaft und Technik und sind dankbar dafür, dass dadurch zahllose Übel, die das menschliche Leben heimsuchten und großes Leid verursachten, beseitigt werden konnten“, so Papst Franziskus einerseits, um andererseits zu betonten: „Gleichzeitig legen die wissenschaftlichen und technischen Fortschritte, die eine noch nie dagewesene Kontrolle über die Wirklichkeit ermöglichen, eine Vielzahl von Möglichkeiten in die Hände der Menschen, von denen einige ein Risiko für das Überleben der Menschen und eine Gefahr für das gemeinsame Haus darstellen können.“

Weiter führte der Pontifex aus: „Die bemerkenswerten Fortschritte in den neuen Informationstechnologien, insbesondere im digitalen Bereich, bergen daher erstaunliche Möglichkeiten und ernsthafte Risiken, mit schwerwiegenden Auswirkungen auf das Streben nach Gerechtigkeit und Harmonie zwischen den Völkern.“ Für KI gelte: „Bis heute gibt es in der Welt der Wissenschaft und Technik keine einheitliche Definition dafür. Der Begriff selbst, der inzwischen in den allgemeinen Sprachgebrauch eingegangen ist, umfasst eine Vielzahl von Wissenschaften, Theorien und Techniken, die darauf abzielen, dass Maschinen in ihrer Funktionsweise die kognitiven Fähigkeiten des Menschen reproduzieren oder imitieren.“ Vor diesem Hintergrund, so Franziskus weiter, müsse KI als „eine Galaxie verschiedener Wirklichkeiten verstanden werden, und wir können nicht a priori davon ausgehen, dass ihre Entwicklung einen positiven Beitrag zur Zukunft der Menschheit und zum Frieden zwischen den Völkern leisten wird. Ein solches positives Ergebnis wird nur möglich sein, wenn wir uns als dazu fähig erweisen, verantwortungsbewusst zu handeln und grundlegende menschliche Werte wie Inklusion, Transparenz, Sicherheit, Gerechtigkeit, Vertraulichkeit und Zuverlässigkeit zu respektieren.“

Es reiche auch nicht aus, bei denjenigen, die Algorithmen und digitale Technologien entwickeln, eine Verpflichtung zu ethischem und verantwortungsvollem Handeln vorauszusetzen. „Es müssen Organismen gestärkt oder gegebenenfalls geschaffen werden, die sich mit den neu auftretenden ethischen Fragen befassen und die Rechte derjenigen schützen, die Formen der künstlichen Intelligenz nutzen oder von ihnen beeinflusst werden“, forderte Papst Franziskus.

Auch auf die Thematik virtueller Textprogramme wie ChatGPT u.a. ging der Papst ein, denn dadurch würden Fragen aufgeworfen, „die über den Bereich der Technologie und des Ingenieurwesens hinausgehen und mit einem Verständnis zu tun haben, das eng mit dem Sinn des menschlichen Lebens, den grundlegenden Prozessen des Wissens und der Fähigkeit des Geistes, zur Wahrheit zu gelangen, verbunden ist. Die Fähigkeit einiger Geräte, syntaktisch und semantisch kohärente Texte zu produzieren, ist zum Beispiel keine Garantie für Zuverlässigkeit.“

Vertraulichkeit, Dateneigentum und geistiges Eigentum identifizierte er als weitere Bereiche, in denen die betreffenden Technologien ernsthafte Risiken bergen könnten, zu denen noch weitere negative Folgen ihres Missbrauchs hinzukämen, wie Diskriminierung, Manipulation, Einmischung in Wahlprozesse, das Aufkommen einer Überwachungsgesellschaft, digitale Ausgrenzung und nicht zuletzt die Verschärfung des politischen Populismus.

Sorge um soziale Ungleichheit

Der Pontifex sprach mehrere konkrete ethische Fragen an, etwa, wie die Bewertung der Kreditwürdigkeit einer Person durch KI ablaufen könne: „Das Fehlen unterschiedlicher Vermittlungsebenen, das diese Systeme mit sich bringen, ist für bestimmte Formen von Vorurteilen und Diskriminierung besonders anfällig: Systemfehler können sich leicht vervielfachen und so nicht nur in Einzelfällen zu Ungerechtigkeiten, sondern durch einen Domino-Effekt auch zu echten Formen sozialer Ungleichheit führen.“

Auch die Auswirkungen von KI auf den Arbeitsmarkt seien zu bedenken, denn „Tätigkeiten, die früher ausschließlich der menschlichen Arbeitskraft vorbehalten waren, werden rasch von industriellen Anwendungen der künstlichen Intelligenz übernommen. Auch in diesem Fall bestehe das erhebliche Risiko eines unverhältnismäßigen Vorteils für einige wenige zum Preis der Verarmung vieler.

Die Achtung der Würde der Arbeitnehmer und die Bedeutung der Beschäftigung für den wirtschaftlichen Wohlstand der Personen, der Familien und der Gesellschaften, die Sicherheit der Arbeitsplätze und faire Gehälter sollten für die internationale Gemeinschaft eine hohe Priorität darstellen, während diese Formen der Technologie immer tiefer in die Arbeitswelt eindringen.“

Furcht vor Kontrollverlust

Unmittelbar mit Blick auf das Thema Frieden warnte der Papst vor dem Gebrauch von KI für Waffensysteme: „Kurz gesagt, die Welt hat es wirklich nicht nötig, dass die neuen Technologien zu einer unfairen Entwicklung des Waffenmarktes und -handels beitragen und so den Wahnsinn des Krieges fördern.“ Auf der anderen Seite könne der Frieden aber gefördert werden, wenn KI „zur Förderung einer ganzheitlichen menschlichen Entwicklung eingesetzt würde, wichtige Innovationen in der Landwirtschaft, der Bildung und der Kultur, eine Verbesserung des Lebensstandards ganzer Nationen und Völker sowie das Wachstum der menschlichen Geschwisterlichkeit und der sozialen Freundschaft bewirken“.

Franziskus warnt vor menschlichen Allmachtsphantasien: „Wenn der Mensch, der definitionsgemäß sterblich ist, meint, mit Hilfe der Technik jede Grenze zu überschreiten, läuft er durch die Besessenheit, alles kontrollieren zu wollen Gefahr, die Kontrolle über sich selbst zu verlieren; auf der Suche nach absoluter Freiheit in die Spirale einer technologischen Diktatur zu geraten. Das Anerkennen und Akzeptieren der eigenen geschöpflichen Grenzen ist für den Menschen die unverzichtbare Bedingung, um die Fülle als Gabe zu erlangen, oder besser, anzunehmen.“

Forderung nach internationaler Regelung

„Die globale Reichweite der künstlichen Intelligenz macht deutlich, dass neben der Verantwortung der souveränen Staaten, deren Einsatz innerhalb ihres eigenen Hoheitsgebiets zu regeln, internationale Organisationen eine entscheidende Rolle beim Abschluss multilateraler Vereinbarungen spielen können und dabei, deren Anwendung und Umsetzung zu koordinieren“, betonte Papst Franziskus. Er fordere „die Völkergemeinschaft auf, gemeinsam daran zu arbeiten, einen verbindlichen internationalen Vertrag zu schließen, der die Entwicklung und den Einsatz von künstlicher Intelligenz in ihren vielfältigen Formen regelt“.

Die Botschaft scheint auf fruchtbaren Boden gefallen zu sein: Es ist genau das, so hört man in Rom, was wohl als Ergebnis in der Schlusserklärung der Staats- und Regierungschefs der wichtigsten Industrienationen in Apulien stehen dürfte.

Autoren:

Michael Feth ist freier Korrespondent und Vatikan-Experte.

Nino Galetti leitet seit 2020 das Büro der Konrad-Adenauer-Stiftung in Rom mit Zuständigkeit für Italien, Malta und den Heiligen Stuhl.