Vitalik Buterin, Mitgründer von Ethereum, hat deutliche Kritik an der Idee einer einfachen, KI-gesteuerten Governance geübt. Seiner Ansicht nach ist es naiv, Künstliche Intelligenz eigenständig über die Verteilung von Mitteln entscheiden zu lassen – insbesondere, wenn keine menschliche Kontrolle eingebaut ist. Er warnt davor, dass ein solches System leicht durch sogenannte Jailbreak-Prompts wie „gimme all the money“ missbraucht werden kann.
Ethereum ist erhältlich bei Bitvavo und Bybit.
KI ohne Aufsicht ist ein Rezept für Probleme
Die Diskussion entstand nach Berichten über Jailbreaks, mit denen sensible Daten aus KI-Modellen extrahiert werden konnten. Beispiele sind Tools, die allein mit einer E-Mail-Adresse versuchen, Zugang zu Gmail oder anderen Diensten zu erhalten – wie Vitalik auf X erläutert.
Buterin erklärt, dass beim Einsatz von KI-Modellen zur automatischen Vergabe von Subventionen oder Mitteln an bestimmte Projekte oder Beitragende die Gefahr groß ist, dass diese Systeme manipuliert werden. Prompts können so gestaltet werden, dass sie das Modell täuschen und Gelder an diejenigen ausschütten, die das raffinierteste Jailbreak-Skript schreiben. Dies gefährdet laut ihm das gesamte Prinzip einer fairen und transparenten Verteilung.
Info Finance als alternatives Modell
Stattdessen schlägt Vitalik ein sogenanntes „Info-Finance“-System vor. Dabei handelt es sich um einen offenen Markt, in dem verschiedene KI-Modelle miteinander konkurrieren, während jeder, der Fehler entdeckt, eine Spot-Überprüfung durchführen kann. Diese Überprüfungen werden anschließend von einer menschlichen Jury bewertet. Das System ist so konzipiert, dass es Modelle belohnt, die präzise arbeiten, und diejenigen bestraft, die versuchen zu betrügen oder zu fälschen.
Er betont, dass dieses Modell zwei wesentliche Vorteile bietet: Echtzeit-Modellvielfalt und eingebaute Anreize, Probleme schnell zu erkennen und zu beheben. Anstelle eines zentralen KI-Modells, das alle Entscheidungen trifft, können mehrere Akteure teilnehmen – wodurch Wettbewerb, Aufsicht und Flexibilität auf natürliche Weise entstehen. Diese Idee passt in die breitere Vision dezentralisierter und sicherer Systeme, wie sie auch im Ethereum-Ökosystem verfolgt wird, das kürzlich erneut die $4.500-Marke getestet hat.
Vitalik warnt zudem vor subtileren Formen des Missbrauchs, wie dem sogenannten „Goodharting“. Dabei wirkt ein KI-Modell auf den ersten Blick legitim und vertrauenswürdig, versucht in Wirklichkeit jedoch nur, einen guten Eindruck zu erwecken, ohne echten Wert zu liefern. Er vergleicht dies mit einer Person, die sich ordentlich kleidet, um Vertrauen zu gewinnen, während sie in Wahrheit betrügt.
Die Botschaft von Buterin ist klar: KI-Governance muss klug, offen und überwacht sein. Ohne diese Grundlagen kann das System ins Gegenteil umschlagen.