China veröffentlicht Entwurf zur Regelung von KI-Interaktionsdiensten

Chinas Cyberspace-Behörde hat einen neuen Entwurf zur Regulierung von anthropomorphen Interaktionsdiensten der künstlichen Intelligenz veröffentlicht und bittet um öffentliche Rückmeldungen. Diese Maßnahmen zielen darauf ab, die Rechte der Nutzer zu schützen und innovative Entwicklungen im Bereich der KI voranzutreiben.

Der Entwurf schlägt einen integrierten, umsichtigen und gestaffelten regulatorischen Ansatz vor, der eine differenzierte Aufsicht je nach Risikostufen vorsieht. Dies ist eine klare Bestätigung für die Unterstützung von Innovationen, gekoppelt mit dem gleichzeitigen Schutz vor potenziellen Missbräuchen.

Die neuen Regelungen betreffen Produkte und Dienstleistungen, die KI-Technologien nutzen, um menschliche Persönlichkeitsmerkmale und Kommunikationsstile zu simulieren. Diese Anwendungen bieten emotionale Interaktionen über Texte, Bilder, Audio oder Videos und richten sich an die Öffentlichkeit in China.

Der vorliegende Entwurf verbietet die Erstellung oder Verbreitung von Inhalten, die nationale Sicherheitsinteressen gefährden oder das gesellschaftliche Gefüge destabilisieren. Darunter fallen auch Verstöße wie die Verbreitung illegaler religiöser Aktivitäten oder die Förderung von Gewalt und Pornografie.

Zusätzlich werden Inhalte, die Suizid oder Selbstverletzung propagieren, sowie Praktiken der emotionalen Manipulation oder verbalen Misshandlung strengstens untersagt. Diese Maßnahmen sollen die körperliche und psychische Gesundheit der Nutzer sowie ihre Würde wahren.

Die Anbieter von KI-Diensten sind verpflichtet, die Nutzer klar darüber zu informieren, wenn sie mit einer KI und nicht mit einem Menschen interagieren. Außerdem müssen sie Pop-up-Erinnerungen aktivieren, wenn Anzeichen von Abhängigkeit festgestellt werden oder wenn Nutzer den Dienst erstmalig betreten.

Lin Wei, Präsident der Southwest University of Political Science and Law, erläutert in einem Artikel, der für den WeChat-Kanal der Cyberspace-Verwaltung veröffentlicht wurde, dass Fortschritte in der KI-Technologie zu einem Wandel in der Mensch-Maschine-Interaktion führen. Dies birgt jedoch auch neue Risiken und Herausforderungen.

Lin betont, dass diese Risiken die Rechte der Bürger gefährden und das gesellschaftliche Vertrauen beeinträchtigen könnten. Eine effektive Governance ist entscheidend, um die Vorteile der KI zu sichern und gleichzeitig den Schutz der öffentlichen Interessen zu gewährleisten.