ChatGPT ist zu einem der heißesten Themen weltweit geworden. Ein solches KI-System wird als „Generative KI“ bezeichnet, das auf der Grundlage von Algorithmen, Modellen und Regeln Texte, Bilder, Stimmen, Medien, Codes und andere Materialien als Reaktion auf das generieren könnte, was der Benutzer importiert oder benötigt. Generative KI kann in verschiedenen Szenarien eingesetzt werden und die Revolution einiger Branchen vorantreiben, weshalb sie viel Aufmerksamkeit erregt hat. Als Reaktion auf die Entwicklung der generativen KI hat die Cyberspace Administrative of China (im Folgenden „CAC“) die vorgeschlagenen Verwaltungsmaßnahmen für generative KI-Dienste herausgegeben (Entwurf zur öffentlichen Kommentierung). [1](„生成式人工智能服务管理办法（征求意见稿）“, im Folgenden „Entwurf von Verwaltungsmaßnahmen“) am 11. April 2023.
1. Höhepunkte
Der Entwurf für Verwaltungsmaßnahmen besteht aus 21 Artikeln, die die folgenden Kernthemen abdecken.
1) Anwendungsbereich: Extraterritoriale Gerichtsbarkeit
Dieser Entwurf administrativer Maßnahmen gilt für alle, die in China Innovationen entwickeln oder generative KI nutzen und Dienstleistungen erbringen (die Anbieter) (Art. 2). Dies bedeutet, dass der Entwurf der Verwaltungsmaßnahmen eine extraterritoriale Wirkung hätte. Eine solche extraterritoriale Wirkung beruht auf der Wirkungslehre und der objektiven Territoriallehre. Einerseits können die durch generative KI generierten Inhalte Auswirkungen auf die soziale Ordnung oder andere Beziehungen in China haben und somit Auswirkungen in China haben. Andererseits wird die generative KI von Benutzern im Territorium genutzt, wobei der Betrieb der generativen KI im Territorium erfolgt und die Grundlage für eine objektive Territorialdoktrin bildet.
2) Pflichten der Anbieter
Die Anbieter würden gemäß dem Entwurf der Verwaltungsmaßnahmen die folgenden Verantwortlichkeiten übernehmen.
(1) Inhalt
Die Anbieter sollten für die von der KI generierten Inhalte verantwortlich sein. Der Inhalt sollte legal, korrekt und authentisch sein. Es darf nicht unerlaubt, diskriminierend, unecht, asozial, regierungsfeindlich, antinational, terroristisch, extrem, gewalttätig, pornographisch und von der wirtschaftlichen und sozialen Ordnung ablenkend sein. Die Anbieter sollen die unangemessenen Inhalte aktiv oder auf Wunsch der Nutzer löschen und die KI verbessern bzw. optimieren.
(2) Nutzungen
Erstens sollten die Anbieter die Geschäftsethik einhalten und kein unlauteres Wettbewerbsverhalten begehen. Zweitens sollten die Anbieter nicht in die Rechte anderer eingreifen, einschließlich geistigem Eigentum, personenbezogener Daten, Privatsphäre und Geschäftsgeheimnissen. Drittens sollten die Anbieter die Inhalte nicht diskriminierend generieren.
(3) Innovationen
Der Entwurf der Verwaltungsmaßnahmen enthält auch Anforderungen für die Innovation generativer KI. Die Anbieter sollten klare, spezifische und umsetzbare Anweisungen für Mitwirkende erlassen, die Mitwirkenden schulen und die Richtigkeit des Inhalts sicherstellen, sobald die künstliche Annotation erforderlich ist.
(4) Zusammenarbeit mit der Verwaltung
Die Anbieter sollten aktiv mit der durch die Vorschriften vorgeschriebenen Verwaltung oder Verwaltungsbevollmächtigten zusammenarbeiten. Zunächst sollten die Anbieter die generative KI registrieren oder zur Sicherheitsbewertung gemäß den einschlägigen Vorschriften für Internetdienste melden. Zweitens sollten die Anbieter die generierten Bilder und Videos gemäß der Verordnung über den Dienst von Deepfake kennzeichnen.[2] Drittens sollten die Anbieter auf Anfrage des Verwaltungsbeamten wesentliche Informationen bereitstellen, die sich auf die Auswahl der Benutzer auswirken könnten.
(5) Verwaltung der Nutzer
Die Anbieter sollten die Benutzer der generativen KI verwalten. Zunächst sollten die Anbieter die Nutzer auffordern, ihre Identitätsinformationen anzugeben. Zweitens sollten die Anbieter die Zielgruppe ihres Dienstes spezifizieren und bekannt machen und Maßnahmen ergreifen, um zu verhindern, dass Benutzer von den von der KI bereitgestellten Inhalten abhängig werden. Drittens sollten die Anbieter die Nutzer anweisen, die generativen Inhalte angemessen zu nutzen und die Nutzer vorübergehend oder dauerhaft sperren, wenn sie die KI illegal oder sittenwidrig nutzen.
2. Kommentare
1) Positive Effekte
Der Entwurf administrativer Maßnahmen ist eine schnelle Reaktion Chinas auf den Trend der generativen KI. Es diente als wesentliche Ergänzung zum Regulierungsrahmen der KI. Es hat mehrere positive Effekte. Erstens deckt es die meisten rechtlichen Fragen ab, die durch generative KI aufgeworfen werden, einschließlich der Zuweisung der Haftung von KI, der Bedrohung von geistigem Eigentum, schädlichen Inhalten, unlauterem Wettbewerb und der Verletzung der Privatsphäre usw. Außerdem bietet es eine lebenslange Überwachung von die generative KI, von der Innovation bis zur Nutzung. Zweitens hat Artikel 3 des Entwurfs von Verwaltungsmaßnahmen Chinas unterstützende Haltung gegenüber der Entwicklung von KI gezeigt, indem er erklärt hat, dass die Regierung die Innovation, Anwendung und internationale Zusammenarbeit von KI unterstützen und fördern werde. Drittens dient der Entwurf von Verwaltungsmaßnahmen als wesentlicher Bestandteil des typologischen Regulierungsrahmens für KI, der aus mehreren Verordnungen besteht, die sich auf verschiedene Kategorien von KI konzentrieren.
2) Rechtsstatus
Der Entwurf administrativer Maßnahmen ist kein Gesetz, da er vom CAC herausgegeben wird
Verwaltungsbüro beim Staatsrat. Nach dem chinesischen Gesetzgebungsgesetz können Gesetze nur vom Nationalen Volkskongress erlassen werden. Daher kann das CAC nur Verwaltungsvorschriften oder normative Dokumente erlassen, die im chinesischen Gesetzgebungshierarchiesystem auf einer niedrigeren Hierarchiestufe stehen und nicht mit Gesetzen in Konflikt geraten können. Allerdings hat ein solcher Rechtsstatus in gewissem Maße Flexibilität und Effizienz gewährleistet. Einerseits sind die Anforderungen an den Erlass oder die Änderung von Verwaltungsvorschriften oder normativen Dokumenten im Vergleich zu Gesetzen weniger streng. Andererseits könnten alle Verwaltungsbeamten innerhalb ihrer eigenen Verwaltungsbehörde Regulierungsdokumente ausstellen, wenn sie dies für erforderlich halten, was eine schnelle Reaktion auf den Regulierungsbedarf gewährleistet.
3) Risiken
Es ist zu beachten, dass der Entwurf der Verwaltungsmaßnahmen möglicherweise noch weitere Risiken mit sich bringt. Obwohl Artikel 3 die unterstützende Haltung der Regierung zum Ausdruck brachte, muss anerkannt werden, dass die Verwaltung die Belastung für Anbieter generativer KI erheblich erhöht hat. Die Technologie der generativen KI ist noch lange nicht ausgereift. Daher ist es zweifelhaft, ob die Anbieter in der Lage sind, alle im Entwurf der Verwaltungsmaßnahmen vorgesehenen Verpflichtungen zu erfüllen, oder ob dies zumindest die Kosten für die Einhaltung erhöhen würde. Beispielsweise fordert der Entwurf administrativer Maßnahmen die Anbieter dazu auf, gefälschte Inhalte zu verhindern. Technisch gesehen können die Inhalte zum jetzigen Zeitpunkt jedoch kaum 100 % authentisch sein. Es kann für die Anbieter mit hohen Kosten verbunden sein, einer solchen Verpflichtung nachzukommen. Dementsprechend kann die hohe Compliance-Belastung in gewissem Maße ein Hindernis für die Entwicklung und Innovation generativer KI darstellen.
Abschließend lässt sich sagen, dass der Entwurf der Verwaltungsmaßnahmen Chinas positive Haltung gegenüber der Regulierung von KI widerspiegelt. Es stellt relativ hohe Compliance-Anforderungen an Unternehmen, die Dienste der generativen KI anbieten möchten. Diese Einstellung trägt zur gesunden Entwicklung der generativen KI bei, obwohl möglicherweise Bedenken hinsichtlich der hohen Kosten für die Einhaltung bestehen. Insgesamt ist die Wirkung des Verwaltungsmaßnahmenentwurfs weiterhin beobachtenswert.
[1] Siehe http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.
[2] Cyberspace-Verwaltung Chinas, Ministerium für Industrie und Informationstechnologie Chinas und Ministerium für öffentliche Sicherheit Chinas, Verordnung über den Dienst von Deepfakes, Verordnung Nr. 12.
Titelbild von Nebelgruppe auf Unsplash
Anbieter: Jidong Lin 林济东
