Fünf Monate, nachdem ChatGPT einen Investitionsrausch in Bezug auf künstliche Intelligenz ausgelöst hat, geht Peking dazu über, Chinas Chatbots zu zügeln, ein Beweis für die Entschlossenheit der Regierung, eine strenge regulatorische Kontrolle über Technologien zu behalten, die eine Ära definieren könnten.
Die Cyberspace Administration of China hat diesen Monat Regelentwürfe für die sogenannte generative KI vorgestellt – die Softwaresysteme, wie das hinter ChatGPT, die Text und Bilder als Antwort auf die Fragen und Aufforderungen eines Benutzers formulieren können.
Gemäß den Vorschriften müssen Unternehmen die strengen Zensurregeln der Kommunistischen Partei Chinas beachten, ebenso wie Websites und Apps es vermeiden müssen, Material zu veröffentlichen, das Chinas Führer beschmutzt oder verbotene Geschichte aufwärmt. Der Inhalt von KI-Systemen muss „sozialistische Grundwerte“ widerspiegeln und Informationen vermeiden, die die „Staatsmacht“ oder die nationale Einheit untergraben.
Unternehmen müssen außerdem sicherstellen, dass ihre Chatbots wahrheitsgemäße Wörter und Bilder erstellen und geistiges Eigentum respektieren, und ihre Algorithmen – die Software-Gehirne hinter Chatbots – bei den Aufsichtsbehörden registrieren lassen.
Die Regeln sind noch nicht endgültig, und die Regulierungsbehörden könnten sie weiterhin ändern, aber Experten sagten, dass Ingenieure, die KI-Dienste in China aufbauen, bereits herausgefunden haben, wie sie die Erlasse in ihre Produkte integrieren können.
Auf der ganzen Welt waren Regierungen von der Leistungsfähigkeit von Chatbots beeindruckt, wobei die von KI generierten Ergebnisse von alarmierend bis harmlos reichten. Künstliche Intelligenz wurde verwendet, um College-Prüfungen zu bestehen und ein gefälschtes Foto von Papst Franziskus in einem bauschigen Mantel zu erstellen.
ChatGPT, entwickelt von der US-Firma OpenAI, die von Microsoft mit rund 13 Milliarden US-Dollar unterstützt wird, hat das Silicon Valley dazu angespornt, die zugrunde liegende Technologie auf neue Bereiche wie Videospiele und Werbung anzuwenden. Die Risikokapitalgesellschaft Sequoia Capital schätzt, dass KI-Unternehmen letztendlich „Billionen von Dollar“ an wirtschaftlichem Wert generieren könnten.
In China herrscht ein Aufholjagd der Investoren und Unternehmer. Die Aktien chinesischer KI-Firmen sind stark gestiegen. Einige der größten Technologieunternehmen Chinas haben spektakuläre Ankündigungen gemacht, darunter zuletzt der E-Commerce-Gigant Alibaba; SenseTime, das Gesichtserkennungssoftware herstellt; und Suchmaschine Baidu. Mindestens zwei Startups, die chinesische Alternativen zur OpenAI-Technologie entwickeln, haben Millionen von Dollar gesammelt.
ChatGPT ist in China nicht verfügbar. Angesichts einer wachsenden Zahl einheimischer Alternativen hat China jedoch schnell seine roten Linien für KI aufgezeigt, vor anderen Ländern, die noch überlegen, wie Chatbots reguliert werden sollen.
Die Regeln veranschaulichen Chinas „Move Fast and Break Things“-Ansatz zur Regulierung, sagte Kendra Schaefer, Leiterin der Technologiepolitik bei Trivium China, einem in Peking ansässigen Beratungsunternehmen.
„Da es kein Zwei-Parteien-System gibt, in dem beide Seiten streiten, können sie einfach sagen: ‚OK, wir wissen, dass wir das tun müssen, und wir werden es später überarbeiten'“, fügte sie hinzu.
Chatbots werden in großen Teilen des Internets trainiert, und Entwickler kämpfen mit den Ungenauigkeiten und Überraschungen dessen, was sie manchmal ausspucken. Auf den ersten Blick erfordern Chinas Regeln ein Maß an technischer Kontrolle über Chatbots, das chinesische Technologieunternehmen nicht erreicht haben. Sogar Unternehmen wie Microsoft optimieren ihre Chatbots immer noch, um schädliche Antworten auszusortieren. China hat eine viel höhere Messlatte, weshalb einige Chatbots bereits abgeschaltet wurden und andere nur einer begrenzten Anzahl von Benutzern zur Verfügung stehen.
Experten sind sich uneins darüber, wie schwierig es sein wird, KI-Systeme konsequent sachlich zu trainieren. Einige bezweifeln, dass Unternehmen die Bandbreite chinesischer Zensurregeln berücksichtigen können, die oft weitreichend sind, sich ständig ändern und sogar die Zensur bestimmter Wörter und Daten wie des 4. Juni 1989, dem Tag des Massakers auf dem Platz des Himmlischen Friedens, erfordern. Andere glauben, dass die Maschinen im Laufe der Zeit und mit genügend Arbeit an der Wahrheit und bestimmten Wertesystemen, sogar politischen, ausgerichtet werden können.
Analysten erwarten, dass die Regeln nach Rücksprache mit Chinas Technologieunternehmen geändert werden. Die Regulierungsbehörden könnten ihre Durchsetzung abschwächen, damit die Regeln die Entwicklung der Technologie nicht vollständig untergraben.
Dieses Aktenfoto, das am 16. März 2023 aufgenommen wurde, zeigt den Mitbegründer und CEO von Baidu, Robin Li, bei einer Rede bei der Enthüllung von Baidus KI-Chatbot „Ernie Bot“ auf einer Veranstaltung in Peking. (AFP)
China hat eine lange Geschichte der Zensur des Internets. In den 2000er Jahren hat das Land das weltweit leistungsstärkste Informationsfahndungsnetz über das Internet aufgebaut. Es schreckte nichtkonforme westliche Unternehmen wie Google und Facebook ab. Es stellte Millionen von Arbeitern ein, um die Internetaktivitäten zu überwachen.
Währenddessen florierten Chinas Technologieunternehmen, die sich an die Regeln halten mussten, und widersetzten sich westlichen Kritikern, die vorhersagten, dass politische Kontrolle Wachstum und Innovation untergraben würde. Als Technologien wie Gesichtserkennung und Mobiltelefone aufkamen, halfen Unternehmen dem Staat, sie zu nutzen, um einen Überwachungsstaat zu schaffen.
Die aktuelle KI-Welle birgt neue Risiken für die Kommunistische Partei, sagte Matt Sheehan, ein Experte für chinesische KI und Fellow am Carnegie Endowment for International Peace.
Die Unvorhersehbarkeit von Chatbots, die unsinnige oder falsche Aussagen machen – was KI-Forscher Halluzination nennen – widerspricht der Besessenheit der Partei, das zu verwalten, was online gesagt wird, sagte Sheehan.
„Generative künstliche Intelligenz bringt zwei der obersten Ziele der Partei in Spannung: die Kontrolle von Informationen und die Führung in der künstlichen Intelligenz“, fügte er hinzu.
Experten zufolge geht es bei Chinas neuen Vorschriften nicht ausschließlich um Politik. Sie zielen beispielsweise darauf ab, die Privatsphäre und das geistige Eigentum von Einzelpersonen und Erstellern der Daten zu schützen, auf denen KI-Modelle trainiert werden, ein Thema von weltweiter Bedeutung.
Im Februar verklagte Getty Images, ein Bilddatenbankunternehmen, das KI-Startup Stable Diffusion, weil es sein Bilderzeugungssystem auf 12 Millionen mit Wasserzeichen versehene Fotos trainiert hatte, was laut Getty den Wert seiner Bilder verwässert hatte.
China unternimmt einen breiteren Vorstoß, um rechtliche Fragen zur Verwendung von zugrunde liegenden Daten und Inhalten durch KI-Unternehmen zu klären. Im März richtete Peking im Rahmen einer umfassenden institutionellen Überarbeitung das National Data Bureau ein, um besser zu definieren, was es bedeutet, Daten zu besitzen, zu kaufen und zu verkaufen. Die staatliche Stelle würde Unternehmen auch beim Aufbau der Datensätze unterstützen, die zum Trainieren solcher Modelle erforderlich sind.
„Sie entscheiden jetzt, was für Eigentumsdaten das sind und wer die Rechte hat, sie zu nutzen und zu kontrollieren“, sagte Schaefer, der ausführlich über Chinas KI-Vorschriften geschrieben und die Initiative als „transformativ“ bezeichnet hat.
Dennoch könnten Chinas neue Leitplanken zu einem ungünstigen Zeitpunkt kommen. Das Land sieht sich mit einem verschärften Wettbewerb und Sanktionen gegen Halbleiter konfrontiert, die seine technologische Wettbewerbsfähigkeit, einschließlich KI, zu untergraben drohen.
Die Hoffnungen auf die chinesische KI waren Anfang Februar groß, als Xu Liang, ein KI-Ingenieur und Unternehmer, eine der frühesten Antworten Chinas auf ChatGPT als mobile App veröffentlichte. Die App ChatYuan habe in der ersten Stunde mehr als 10.000 Downloads verzeichnet, sagte Xu.
Medienberichte über deutliche Unterschiede zwischen der Parteilinie und den Antworten von ChatYuan tauchten bald auf. Die Antworten boten eine düstere Diagnose der chinesischen Wirtschaft und bezeichneten den russischen Krieg in der Ukraine als „Angriffskrieg“, was im Widerspruch zu der eher pro-russischen Haltung der Partei stand. Tage später schalteten die Behörden die App ab.
Xu sagte, er füge Maßnahmen hinzu, um einen „patriotischeren“ Bot zu schaffen. Dazu gehören das Herausfiltern sensibler Schlüsselwörter und die Einstellung weiterer manueller Prüfer, die ihm helfen können, problematische Antworten zu kennzeichnen. Er trainiert sogar ein separates Modell, das „falsche Standpunkte“ erkennen kann, die er filtern wird.
Es ist jedoch nicht klar, wann Xus Bot jemals die Behörden zufriedenstellen wird. Laut Screenshots sollte die App ursprünglich am 13. Februar fortgesetzt werden, aber am Freitag war sie noch nicht verfügbar.
„Der Dienst wird fortgesetzt, nachdem die Fehlerbehebung abgeschlossen ist“, hieß es.
Dieser Artikel erschien ursprünglich in der New York Times.
