Vitalik Buterin : Warnung vor naiver AI-Governance gefährdet Ethereum-Nutzer

Auf Einen Blick

• Vitalik Buterin äußert Bedenken hinsichtlich der „naiven“ KI-Governance.
• Eito Miyamura warnt vor möglichen Datenmissbrauch durch schlechte Akteure.
• Buterin schlägt ein offenes Marktmodell zur Lösungen vor.

Buterins Warnung zur KI-Governance

Der Ethereum (ETH) Schöpfer Vitalik Buterin hat kürzlich Bedenken über das geäußert, was er als „naive“ Governance durch Künstliche Intelligenz bezeichnet. In einem Beitrag auf der Plattform X hebt Buterin eine Warnung des Mitbegründers von EdisonWatch, Eito Miyamura, hervor, der herausgefunden hat, dass schädliche Akteure das Model Context Protocol (MCP) von OpenAI ausnutzen könnten, um Zugang zu privaten Benutzerdaten zu erhalten.

Experiment von Miyamura: Ein potenzieller Datenmissbrauch

Miyamuras Experiment deutete darauf hin, dass die Verwendung einer Kalendereinladung mit versteckten Befehlen ChatGPT möglicherweise dazu bringen könnte, sensible persönliche Daten preiszugeben, vorausgesetzt, es läge die E-Mail-Adresse des Opfers vor.

Buterins Lösungsvorschlag

Buterin erklärt: „Das ist auch der Grund, warum naive ‚KI-Governance‘ eine schlechte Idee ist. Wenn man eine KI einsetzt, um die Finanzierung für Beiträge zu verteilen, werden Menschen versuchen, durch geschickte Manipulationen an so viel Geld wie möglich zu gelangen.“

Als Alternative schlägt Buterin einen Ansatz der „Info-Finanzierung“ vor, ein offenes Marktsystem, in dem jeder ein Modell beitragen kann, das von allen überprüft oder von einer „menschlichen Jury“ bewertet wird. „Dieser Typ des ‚Institutiondesigns‘, bei dem man es externen Personen mit LLMs (Large Language Models) ermöglicht, sich einzubringen, anstatt selbst ein einziges LLM zu kodieren, ist grundlegend robuster. Er bietet nicht nur zeitgerechte Modells diversität, sondern erzeugt auch eingebaute Anreize für sowohl Modellanbieter als auch externe Spekulanten, um mögliche Probleme zu erkennen und schnell zu beheben.“

Die Diskussion über die Governance von KI und die damit verbundenen Risiken zeigt die zunehmende Notwendigkeit, effektive Maßnahmen gegen Missbrauch zu entwickeln und schlussendlich eine nachhaltige Nutzung dieser Technologien sicherzustellen.