Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit
Der Europarat ist eine von der Europäischen Union (EU) unabhängige Organisation, die sich zusammen mit dem Europäischen Gerichtshof für Menschenrechte für den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit einsetzt. Der Europarat besteht aus 46 Mitgliedsstaaten, darunter alle 27 EU-Länder, und ist für den Schutz von 680 Millionen Menschen von Grönland bis Aserbaidschan zuständig.
Die 133. Sitzung des Ministerkomitees des Europarats im Mai 2024 war ein wichtiger Meilenstein in der Regulierung von Systemen der künstlichen Intelligenz (KI). Auf der Sitzung wurde das Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit verabschiedet. Der Einsatz künstlicher Intelligenz ist in der EU durch die KI-Verordnung geregelt – das weltweit erste umfassende Gesetz zur Regulierung von KI.
Zielsetzung des Rahmenübereinkommens ist auf Menschen ausgerichtete KI
In dem Rahmenübereinkommen werden das Potenzial von KI-Systemen zur Förderung des menschlichen Wohlstands, des individuellen und gesellschaftlichen Wohlergehens, der nachhaltigen Entwicklung, der Gleichberechtigung der Geschlechter und anderer wichtiger Ziele und Interessen anerkannt.
Behandelt werden insbesondere die Risiken der Diskriminierung im digitalen Kontext, der Missbrauch von KI-Systemen und die Aushöhlung der Privatsphäre und individuellen Autonomie durch willkürliche oder ungesetzliche Überwachungs- und Zensurpraktiken.
Weit gefasster Geltungsbereich: Beitritt steht allen Ländern offen
Das Rahmenübereinkommen steht nicht nur den Mitgliedsstaaten des Europarats, sondern ebenso Ländern auf der ganzen Welt zum Beitritt offen. Die Ratifizierung des Übereinkommens bindet die Unterzeichner rechtlich an seine Bestimmungen. An den Verhandlungen über das Rahmenübereinkommen waren auch Länder außerhalb des Europarats beteiligt, darunter die USA, Kanada und Israel.
Bei der Regulierung der Privatwirtschaft können sich die Länder jedoch dafür entscheiden, ihre eigenen Maßnahmen anstelle der Bestimmungen des Übereinkommens umzusetzen. Dies wird kritisiert, weil es zu Verwässerung führen kann. Der Europarat argumentiert, dass dies aufgrund der Verschiedenartigkeit der Rechtssysteme erforderlich ist. Ebenso gelten die Bestimmungen nicht für Angelegenheiten der nationalen Sicherheit und Verteidigung.
Definition von KI-System orientiert sich an der europäischen KI-Verordnung
Das Rahmenübereinkommen definiert „KI-System“ als maschinengestütztes System, das für ausdrückliche oder implizierte Ziele aus den erhaltenen Eingaben ableitet, wie es Ausgaben, z.B. Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, generieren kann, die die physische oder eine virtuelle Umgebung beeinflussen könnten.
Der Grad der Autonomie und Anpassungsfähigkeit des Systems nach dem Einsatz kann variieren. Im Wesentlichen wird damit die Definition aus der europäischen KI-Verordnung übernommen.
Verpflichtungen während des Lebenszyklus von KI
Neben einer Reihe von allgemeinen Verpflichtungen, darunter der Schutz der Menschenrechte, die Integrität demokratischer Prozesse und die Achtung der Rechtsstaatlichkeit, legt das Rahmenübereinkommen Grundsätze im Zusammenhang mit dem Einsatz von KI fest. Dazu gehören z. B. Transparenz und Aufsicht, Rechenschaftspflicht und Verantwortung, Gleichheit und Nichtdiskriminierung, Schutz der Privatsphäre und persönlicher Daten, Zuverlässigkeit und sichere Innovation.
Darüber hinaus verpflichtet das Übereinkommen jede Vertragspartei, Maßnahmen zu ergreifen oder fortzuführen, um Risiken, die von KI-Systemen ausgehen, festzustellen, zu bewerten, zu verhindern und zu mindern. Auch bestärkt es die Vertragsparteien, die Notwendigkeit eines Moratoriums oder Verbots bestimmter Anwendungen von KI-Systemen zu prüfen, die mit den Grundsätzen des Übereinkommens unvereinbar sind.
Das Übereinkommen unterstützt schließlich auch die Förderung der digitalen Kompetenz und Fähigkeiten aller Bevölkerungsgruppen.
Abhilfemaßnahmen bei der Verletzung von Menschenrechten
Festgelegt werden auch Abhilfemaßnahmen im Falle der Verletzung von Menschenrechten infolge des Einsatzes von KI. Dazu gehören Maßnahmen, die sicherstellen, dass zweckdienliche Informationen über KI-Systeme dokumentiert und gegebenenfalls den Betroffenen zur Verfügung gestellt werden. Es sieht auch die Möglichkeit vor, dass Betroffene bei den zuständigen Behörden Beschwerde einlegen.
Ein globaler Rahmen für den Einsatz von KI
Mit dem Rahmenübereinkommen wurde ein weltweit anwendbarer Rechtsrahmen für ein gemeinsames Wertesystem geschaffen, das den Nutzen von und die Vorteile der KI anerkennt. Es bleibt abzuwarten, ob die Länder von der Möglichkeit Gebrauch machen, bei der Regulierung der Privatwirtschaft eigene Maßnahmen anstelle der Bestimmungen des Übereinkommens umzusetzen.
