Asset-Herausgeber

IMAGO / SOPA Images

Länderberichte

Der Papst zu Gast beim G7-Gipfel

von Michael Feth, Dr. Nino Galetti

Wie zähmt man Künstliche Intelligenz?

Es ist eine starke Botschaft: Als erster Pontifex der Geschichte wird Papst Franziskus am 14. Juni 2024 an einem G7-Gipfel teilnehmen. Und dabei wird es um nicht weniger gehen als die Zukunft der Menschheit. Wie wird Künstliche Intelligenz unserer Welt verändern? Wo liegen die Chancen, wo die Risiken? Sind wir überhaupt für diesen zivilisatorischen Quantensprung gerüstet? Mit diesen Fragen werden sich die Staats- und Regierungschefs intensiv beschäftigen. Bei ihren Gesprächen mit dem Papst wird sich alles um die ethischen und moralischen Aspekte drehen. Im Grunde ist man sich schon im Vorfeld einig: Es braucht ein verbindliches internationales Regelwerk. Ausgerechnet der Heilige Stuhl hat dazu in den vergangenen Jahren erhebliche Vorbereitungen erbracht. Was hat der Franziskus den G7 zu sagen? Eine Analyse.

Asset-Herausgeber

Selbstfahrende Taxis, automatische Kassen, putzende Roboter, Hotelrezeptionen ohne Personal, Drohnen als Paketboten. Was vor Jahren noch als Science-Fiction galt, ist heute bereits an vielen Orten Realität – die „Künstliche Intelligenz“ (KI) macht‘s möglich. Doch das war nur der Anfang: Die rasende Entwicklung von KI ist dabei, einen Quantensprung zu vollziehen und in alle Lebensbereiche des Menschen vorzudringen. Unermesslich reich an Chancen für eine bessere Welt von morgen – genauso risikoreich und gefährlich bis hin zum Kontrollverlust der Menschheit über die Technologie. Goethes Zauberlehrling lässt grüßen.

Nun ist keine neue Technologie, ob Mechanik oder Cyber, an sich böse. Es kommt darauf an, was der Mensch aus ihr macht und wie er sie zur Anwendung bringt. Deshalb müssen Regeln her. Und dies wird nach dem Willen der gegenwärtigen G7-Präsidentschaft Italiens eines der Hauptthemen auf dem Gipfel der Staats- und Regierungschefs vom 13.-15. Juni 2024 in Apulien sein.

Auf den ersten Blick mag es erstaunen, dass Premierministerin Giorgia Meloni in Absprache mit ihren G7-Amtskollegen Papst Franziskus nach Apulien eingeladen hat. Doch hat die Einladung ihre tiefere Berechtigung: Seit Jahren beobachtet der Vatikan die Forschung zu Künstlicher Intelligenz sehr genau und steht im Dialog mit einschlägigen Wissenschaftlern und Experten. Das gilt insbesondere für Papst Franziskus, der bei verschiedenen Gelegenheiten angedeutet hat, dass er das Thema KI für mindestens so bedeutend für die Zukunft der Menschheit hält, wie etwa den Klimawandel oder die Migration.

Beim G7-Gipfel wird es vor allem um die ethische Dimension von KI gehen sowie um internationale Regeln zum Umgang damit. Es geht nicht mehr darum, was KI alles kann, sondern was sie darf. Was ist moralisch vertretbar und was nicht? Der Heilige Stuhl hat hierzu klare Vorstellungen entwickelt. Einen besonderen Auftrag dazu hatte der Pontifex der Päpstlichen Akademie der Wissenschaft – dem internationalen Think Tank des Vatikans – erteilt. Hier arbeiten Wissenschaftler verschiedener geographischer Provenienz, Konfession und Religionen zusammen.

Auf mehreren Ebenen hat der Heilige Stuhl seither versucht, die Anerkennung ethischer Regeln und Standards international zu verankern und dazu das Gespräch mit den tonangebenden Technologie-Riesen des Silicon Valley zu suchen. Auf Grundlage ihrer Beratungen hatte die Päpstliche Akademie der Wissenschaften bereits 2020 einen Aufruf verfasst, der als „Rome-Call for Artificial Intelligence Ethics“ bekannt ist: Eine Selbstverpflichtung aller, die an KI arbeiten und forschen, moralische Mindeststandards einzuhalten.

 

Regelwerk statt Selbstkontrolle

Dazu waren seit Ende der Corona-Pandemie die Chefs der Tech-Giganten im Vatikan zu Gast: Von Brad Smith (Microsoft) und John Kelly (IBM) über Tim Cook (Apple) bis hin zu Elon Musk (Tesla, Twitter). Vor kurzem erst hat CEO von Cisco Systems, Chuck Robbins, den Aufruf unterzeichnet – und ist damit der jüngste Technologie-Riese, der sich dem Aufruf der Kirche zum ethischen und verantwortungsvollen Einsatz von KI anschließt.

Das Dokument unterstreicht Transparenz, Einbeziehung, Rechenschaftspflicht, Unparteilichkeit, Zuverlässigkeit, Sicherheit und Privatsphäre. Der Text zitiert die Allgemeine Erklärung der Menschenrechte und betont, dass alle Menschen die gleichen Rechte und die gleiche Würde haben. KI müsse diese Rechte schützen und garantieren. Gleichzeitig wird der Einsatz der KI-Entwicklung für das „Wohl der Menschheit und der Umwelt” gefordert.

Es gebe, so das vatikanische Papier, drei Voraussetzungen dafür, dass „technologischer Fortschritt mit echtem Fortschritt für die Menschheit und Respekt für den Planeten einhergeht”. Diese seien: humane Inklusion, Fokus auf das Wohl der Menschheit und ein nachhaltiger Ansatz zum Schutz des Planeten. Technologie solle auf einer Grundlage des Vertrauens aufgebaut werden, um eine inklusive Zukunft für alle zu ermöglichen, so wird formuliert.

Doch wohlklingende Erklärungen zur Selbstverpflichtung sind das eine, ein wirksames Regelwerk mit Sanktions-Mechanismen das andere. Das weiß man auch im Vatikan. Nicht umsonst wählte Papst Franziskus KI auch als Thema seiner Friedensbotschaft des Jahres 2024. Darin empfahl er den Staats- und Regierungschefs der Welt, einen internationalen Vertrag zur Regelung der Entwicklung und Nutzung von KI zu verabschieden, was nun das Ziel der Papst-Intervention beim G7-Gipfel ist.

 

Abwägen zwischen Chancen und Risiken

Um zu erahnen, was die Kirche bei dem Megathema bewegt, warum sie warnt und sich derart engagiert, sollte man sich noch einmal die Botschaft des Pontifex zum Jahresbeginn 2024 in Erinnerung rufen, die er auch in schriftlicher Form den großen Staatenlenkern zustellen ließ: „Wir freuen uns zu Recht über die außerordentlichen Errungenschaften von Wissenschaft und Technik und sind dankbar dafür, dass dadurch zahllose Übel, die das menschliche Leben heimsuchten und großes Leid verursachten, beseitigt werden konnten“, so Papst Franziskus einerseits, um andererseits zu betonten: „Gleichzeitig legen die wissenschaftlichen und technischen Fortschritte, die eine noch nie dagewesene Kontrolle über die Wirklichkeit ermöglichen, eine Vielzahl von Möglichkeiten in die Hände der Menschen, von denen einige ein Risiko für das Überleben der Menschen und eine Gefahr für das gemeinsame Haus darstellen können.“

Weiter führte der Pontifex aus: „Die bemerkenswerten Fortschritte in den neuen Informationstechnologien, insbesondere im digitalen Bereich, bergen daher erstaunliche Möglichkeiten und ernsthafte Risiken, mit schwerwiegenden Auswirkungen auf das Streben nach Gerechtigkeit und Harmonie zwischen den Völkern.“ Für KI gelte: „Bis heute gibt es in der Welt der Wissenschaft und Technik keine einheitliche Definition dafür. Der Begriff selbst, der inzwischen in den allgemeinen Sprachgebrauch eingegangen ist, umfasst eine Vielzahl von Wissenschaften, Theorien und Techniken, die darauf abzielen, dass Maschinen in ihrer Funktionsweise die kognitiven Fähigkeiten des Menschen reproduzieren oder imitieren.“ Vor diesem Hintergrund, so Franziskus weiter, müsse KI als „eine Galaxie verschiedener Wirklichkeiten verstanden werden, und wir können nicht a priori davon ausgehen, dass ihre Entwicklung einen positiven Beitrag zur Zukunft der Menschheit und zum Frieden zwischen den Völkern leisten wird. Ein solches positives Ergebnis wird nur möglich sein, wenn wir uns als dazu fähig erweisen, verantwortungsbewusst zu handeln und grundlegende menschliche Werte wie Inklusion, Transparenz, Sicherheit, Gerechtigkeit, Vertraulichkeit und Zuverlässigkeit zu respektieren.“

Es reiche auch nicht aus, bei denjenigen, die Algorithmen und digitale Technologien entwickeln, eine Verpflichtung zu ethischem und verantwortungsvollem Handeln vorauszusetzen. „Es müssen Organismen gestärkt oder gegebenenfalls geschaffen werden, die sich mit den neu auftretenden ethischen Fragen befassen und die Rechte derjenigen schützen, die Formen der künstlichen Intelligenz nutzen oder von ihnen beeinflusst werden“, forderte Papst Franziskus.

Auch auf die Thematik virtueller Textprogramme wie ChatGPT u.a. ging der Papst ein, denn dadurch würden Fragen aufgeworfen, „die über den Bereich der Technologie und des Ingenieurwesens hinausgehen und mit einem Verständnis zu tun haben, das eng mit dem Sinn des menschlichen Lebens, den grundlegenden Prozessen des Wissens und der Fähigkeit des Geistes, zur Wahrheit zu gelangen, verbunden ist. Die Fähigkeit einiger Geräte, syntaktisch und semantisch kohärente Texte zu produzieren, ist zum Beispiel keine Garantie für Zuverlässigkeit.“

Vertraulichkeit, Dateneigentum und geistiges Eigentum identifizierte er als weitere Bereiche, in denen die betreffenden Technologien ernsthafte Risiken bergen könnten, zu denen noch weitere negative Folgen ihres Missbrauchs hinzukämen, wie Diskriminierung, Manipulation, Einmischung in Wahlprozesse, das Aufkommen einer Überwachungsgesellschaft, digitale Ausgrenzung und nicht zuletzt die Verschärfung des politischen Populismus.

 

Sorge um soziale Ungleichheit

Der Pontifex sprach mehrere konkrete ethische Fragen an, etwa, wie die Bewertung der Kreditwürdigkeit einer Person durch KI ablaufen könne: „Das Fehlen unterschiedlicher Vermittlungsebenen, das diese Systeme mit sich bringen, ist für bestimmte Formen von Vorurteilen und Diskriminierung besonders anfällig: Systemfehler können sich leicht vervielfachen und so nicht nur in Einzelfällen zu Ungerechtigkeiten, sondern durch einen Domino-Effekt auch zu echten Formen sozialer Ungleichheit führen.“

Auch die Auswirkungen von KI auf den Arbeitsmarkt seien zu bedenken, denn „Tätigkeiten, die früher ausschließlich der menschlichen Arbeitskraft vorbehalten waren, werden rasch von industriellen Anwendungen der künstlichen Intelligenz übernommen. Auch in diesem Fall bestehe das erhebliche Risiko eines unverhältnismäßigen Vorteils für einige wenige zum Preis der Verarmung vieler.

Die Achtung der Würde der Arbeitnehmer und die Bedeutung der Beschäftigung für den wirtschaftlichen Wohlstand der Personen, der Familien und der Gesellschaften, die Sicherheit der Arbeitsplätze und faire Gehälter sollten für die internationale Gemeinschaft eine hohe Priorität darstellen, während diese Formen der Technologie immer tiefer in die Arbeitswelt eindringen.“

 

Furcht vor Kontrollverlust

Unmittelbar mit Blick auf das Thema Frieden warnte der Papst vor dem Gebrauch von KI für Waffensysteme: „Kurz gesagt, die Welt hat es wirklich nicht nötig, dass die neuen Technologien zu einer unfairen Entwicklung des Waffenmarktes und -handels beitragen und so den Wahnsinn des Krieges fördern.“ Auf der anderen Seite könne der Frieden aber gefördert werden, wenn KI „zur Förderung einer ganzheitlichen menschlichen Entwicklung eingesetzt würde, wichtige Innovationen in der Landwirtschaft, der Bildung und der Kultur, eine Verbesserung des Lebensstandards ganzer Nationen und Völker sowie das Wachstum der menschlichen Geschwisterlichkeit und der sozialen Freundschaft bewirken“.

Franziskus warnt vor menschlichen Allmachtsphantasien: „Wenn der Mensch, der definitionsgemäß sterblich ist, meint, mit Hilfe der Technik jede Grenze zu überschreiten, läuft er durch die Besessenheit, alles kontrollieren zu wollen Gefahr, die Kontrolle über sich selbst zu verlieren; auf der Suche nach absoluter Freiheit in die Spirale einer technologischen Diktatur zu geraten. Das Anerkennen und Akzeptieren der eigenen geschöpflichen Grenzen ist für den Menschen die unverzichtbare Bedingung, um die Fülle als Gabe zu erlangen, oder besser, anzunehmen.“

 

Forderung nach internationaler Regelung

„Die globale Reichweite der künstlichen Intelligenz macht deutlich, dass neben der Verantwortung der souveränen Staaten, deren Einsatz innerhalb ihres eigenen Hoheitsgebiets zu regeln, internationale Organisationen eine entscheidende Rolle beim Abschluss multilateraler Vereinbarungen spielen können und dabei, deren Anwendung und Umsetzung zu koordinieren“, betonte Papst Franziskus. Er fordere „die Völkergemeinschaft auf, gemeinsam daran zu arbeiten, einen verbindlichen internationalen Vertrag zu schließen, der die Entwicklung und den Einsatz von künstlicher Intelligenz in ihren vielfältigen Formen regelt“.

Die Botschaft scheint auf fruchtbaren Boden gefallen zu sein: Es ist genau das, so hört man in Rom, was wohl als Ergebnis in der Schlusserklärung der Staats- und Regierungschefs der wichtigsten Industrienationen in Apulien stehen dürfte.

 

Autoren:

Michael Feth ist freier Korrespondent und Vatikan-Experte.

Nino Galetti leitet seit 2020 das Büro der Konrad-Adenauer-Stiftung in Rom mit Zuständigkeit für Italien, Malta und den Heiligen Stuhl.

Asset-Herausgeber

Kontakt

Dr. Nino Galetti

Dr

Leiter des Auslandsbüros Italien

nino.galetti@kas.de +39 06 6880-9281 +39 06 6880-6359

comment-portlet

Asset-Herausgeber

Mediathek

Rule of Law Rules Podcast

#11: Hannah Lim über Legal Technology in Südostasien

Hannah identifiziert als Head of Rule of Law and Emerging Markets bei LexisNexis in Singapur Bereiche, in denen die Firma mittels Technologie Rechtsstaatlichkeit unterstützen kann.

Jetzt lesen
Rule of Law Rules Podcast

#6: Lee San Natalie Pang über die Datenschutzregulierung DSGVO und ihren Einfluss auf Südostasien

Für die letzte Folge unseres ersten Themenbereiches „Datenschutz“ blicken mit Datenschutz-Expertin Dr. Lee San Natalie Pang auf den Südosten Asiens.

Jetzt lesen
Rule of Law Rules Podcast

#5: Ridwan Oloyede über die DSGVO und ihren Einfluss auf die Gesetzgebung in Afrika

Ridwan Oloyede ist Mitbegründer des nigerianischen Start-ups Tech Hive Advisory, das Unternehmen hilft, durch zuverlässige & effiziente Anwendung von Technologie besser zu werden.

Jetzt lesen
Rule of Law Rules Podcast

#4: Nadim Gemayel über die DSGVO und ihren Einfluss auf die Gesetzgebung im Nahen Osten

Nadim Gemayel ist Politiker und Anwalt und pendelt zwischen dem Libanon und Katar hin- und her. Er war von 2009 bis 2020 Mitglied des libanesischen Parlaments.

Jetzt lesen
Rule of Law Rules Podcast

#3: Eduardo Magrani über Datenschutz in Lateinamerika

Mit Eduardo Magrani sprechen wir über die DSGVO und ihren Einfluss auf die lateinamerikanische und vor allen die brasilianische Gesetzgebung.

Jetzt lesen
Rule of Law Rules Podcast

#2: Ioana Stupariu über den Einfluss der DSGVO in Südosteuropa

Ioana Stupariu berät kleine und mittelständische Start-ups in Südosteuropa bei der Implementierung von Datenschutzrichtlinien. Und sie forscht zu Datenschutz & Privacy.

Jetzt lesen
Rule of Law Rules Podcast

#1: Frederick Richter über die weltweite Wirkung der Datenschutzgrundverordnung der EU

Mit Frederick Richter sprechen wir über die Stiftung Datenschutz, die Rolle des Datenschutzes in Deutschland und über die DSGVO und ihre Ausstrahlungswirkung in die Welt.

Jetzt lesen

Asset-Herausgeber