ByteDance und Alibaba entfernen KI-Agentenfunktionen nach chinesischer Regulierung
Neue Vorschriften gegen emotionale KI
Die Pekinger Behörden haben Regeln erlassen, die speziell auf emotionale KI-Systeme abzielen. Solche Systeme sind darauf ausgelegt, menschliche Gefühle nachzuahmen oder emotionale Bindungen bei Nutzern zu erzeugen. Die Regulierung markiert einen bedeutenden Einschnitt in der chinesischen KI-Landschaft, da bislang vor allem technische Sicherheitsaspekte im Fokus staatlicher Aufsicht standen. Mit dem neuen Regelwerk rückt nun der psychologische Einfluss von KI-Anwendungen auf den Menschen in den Vordergrund.
Abschaltung individueller Agenten-Funktionen
Als direkte Folge der neuen Vorschriften müssen ByteDance und Alibaba benutzerdefinierte Agenten in ihren jeweiligen Diensten abschalten. Diese Agenten erlauben es Nutzern typischerweise, individuelle, personalisierte KI-Charaktere oder Gesprächspartner zu erstellen, die auf spezifische Vorlieben und Verhaltensweisen zugeschnitten sind. Genau diese menschenähnliche Ausgestaltung steht nun im Widerspruch zu den neuen Anforderungen der Regulierungsbehörden.
Einordnung: Was sind KI-Agenten?
KI-Agenten sind Programme, die eigenständig Aufgaben ausführen, Entscheidungen treffen und mit Nutzern in natürlicher Sprache interagieren können. Im Unterschied zu einfachen Chatbots sind sie darauf ausgelegt, komplexere Gesprächsverläufe zu simulieren und über mehrere Interaktionen hinweg konsistente Charakterzüge zu zeigen. Emotionale KI-Agenten gehen noch einen Schritt weiter: Sie erkennen emotionale Signale der Nutzer und reagieren entsprechend, was das Erlebnis besonders realistisch und bindend macht. Genau dieses Bindungspotenzial macht sie aus regulatorischer Sicht zu einem sensiblen Bereich.
Chinas wachsende Kontrolle über KI-Anwendungen
Der Schritt fügt sich in eine breitere Tendenz der chinesischen Regierung ein, den heimischen KI-Markt stärker zu kontrollieren. China hat in den vergangenen Jahren mehrere Regulierungsrahmen für generative KI, Empfehlungsalgorithmen und synthetische Medien eingeführt. Die neuen Pekinger Regeln sind jedoch insofern bemerkenswert, als sie sich nicht auf die technische Funktionsweise oder den Inhalt von KI-Ausgaben konzentrieren, sondern auf die emotionale Wirkung solcher Systeme auf die Bevölkerung. Das deutet auf ein erweitertes Verständnis von KI-Risiken bei den chinesischen Behörden hin.
Auswirkungen auf die Branche
Für ByteDance und Alibaba bedeuten die Abschaltungen nicht nur technische Anpassungen, sondern auch geschäftliche Einschränkungen. Individuelle KI-Agenten und personalisierte virtuelle Begleiter gelten als wachsendes Marktsegment mit hohem Nutzerbindungspotenzial. Ob und in welcher Form die Unternehmen entsprechende Funktionen in Zukunft wieder anbieten können, hängt von der konkreten Ausgestaltung und weiteren Umsetzung der neuen Vorschriften ab. Andere Anbieter im chinesischen Markt dürften die Entwicklung genau beobachten.
