Dieser Artikel wurde zuerst auf The Bit Journal veröffentlicht.
Die Sicherheit von KI-Agenten entwickelt sich zu einer großen Sorge im Krypto- und Web3-Bereich, da immer mehr autonome Systeme direkten Zugriff auf Krypto-Geldbörsen, Handelswerkzeuge, APIs und Blockchain-Protokolle erhalten.
Ein neues Forschungspapier, das am 20. Mai von Google, Gray Swan AI, EmbraceTheRed sowie mehreren Universitäten veröffentlicht wurde, warnt davor, KI-Agenten als vertrauenswürdige Software zu behandeln.
Stattdessen fordern die Forscher, die Sicherheit direkt in das System einzubauen, da KI-Agenten manipuliert, ausgenutzt oder ausgetrickst werden können, um Handlungen auszuführen, die Nutzer gefährden.
Diese Warnung kommt besonders zur rechten Zeit, da sich KI-gestützte Krypto-Tools im Handel, im DeFi-Bereich, bei Token-Einführungen und bei der Verwaltung von Krypto-Geldbörsen rasant verbreiten. Tatsächlich prognostizierte Circle-CEO Jeremy Allaire vor einigen Monaten, dass innerhalb von 5 Jahren Milliarden von KI-Agenten im Namen von Nutzern arbeiten werden.
Forscher sagen, man solle den Gedanken vergessen, dass KI-Agenten vertrauenswürdig sind
Das Papier mit dem Titel „Agent Security is a Systems Problem“ legt dar, dass sich der aktuelle Ansatz für KI-Sicherheit zu sehr auf die Stärkung des KI-Modells selbst konzentriert und der umgebenden Infrastruktur nicht genug Aufmerksamkeit schenkt.
Die Forscher schrieben:
„Das KI-Modell, das den Agenten antreibt, muss als eine nicht vertrauenswürdige Komponente behandelt werden.“
Dem Papier zufolge reicht es nicht aus, sich nur auf traditionelle Sicherheitsbarrieren bei Eingabeaufforderungen zu verlassen, insbesondere wenn KI-Agenten Zugriff auf verschiedene Systeme und Werkzeuge wie Browser, Krypto-Geldbörsen, APIs, Cloud-Systeme, Speicherschichten oder Ausführungswerkzeuge erhalten.
Die Forscher identifizierten drei Hauptschutzmaßnahmen, die dabei helfen können, Angriffe zu reduzieren.
Erstens müssen KI-Systeme vertrauenswürdige Anweisungen klar von nicht vertrauenswürdigen trennen. Das bedeutet, dass nicht vertrauenswürdige Daten von vertrauenswürdigen Anweisungen ferngehalten werden müssen.
Dies verringert das Risiko, dass versteckte bösartige Eingabeaufforderungen in Dateien, Webseiten oder Konversationen eingeschleust werden.
Zweitens sollten KI-Agenten nur die minimal erforderlichen Berechtigungen erhalten, anstatt uneingeschränkten Zugriff auf sensible Systeme zu haben.
Drittens sollte der Datenfluss von der umgebenden Infrastruktur kontrolliert werden und nicht vom Agenten selbst. Das verhindert, dass Agenten vertrauliche Informationen weitergeben oder die Vermögenswerte von Nutzern an unsichere Ziele senden.
Krypto-Plattformen werden immer anfälliger für Sicherheitsrisiken durch KI-Agenten
Der Krypto-Sektor könnte besonders anfällig sein, da heute so viele KI-Agenten direkt mit Finanzsystemen interagieren.
KI-gestützte Tools werden bereits für den automatisierten Handel, Token-Einführungen, DeFi-Ausführungen, Smart-Contract-Analysen und die Verwaltung von Krypto-Geldbörsen eingesetzt. Mehrere Startups bauen derzeit vollkommen autonome Web3-Assistenten auf, die Blockchain-Transaktionen ohne menschliche Genehmigung ausführen können.
Dies schafft jedoch neue Risiken und potenzielle Angriffspunkte.
Erst kürzlich musste der KI-gestützte Krypto-Handelsassistent Bankr Transaktionen vorübergehend abschalten, weil Angreifer es irgendwie geschafft hatten, Zugriff auf mindestens 14 mit dem System verbundene Krypto-Geldbörsen zu erlangen. Einige Sicherheitsforscher vermuten sogar, dass die Plattform Opfer einer Ausnutzung ihrer eigenen Agenten-Infrastruktur geworden sein könnte.
Google und Sicherheitsunternehmen warnen vor einer massiven Eskalation KI-gesteuerter Angriffe. Google identifizierte kürzlich einen Vorfall, den das Unternehmen als einen der ersten KI-gestützten Zero-Day-Cyberangriffe beschrieb, bei dem KI-Systeme halfen, zuvor unbekannte Sicherheitslücken aufzuspüren.
Gray Swan AI berichtete außerdem, dass jedes führende KI-Modell, das während eines großen Wettbewerbs für das Einschleusen von Eingabeaufforderungen getestet wurde, kompromittiert werden konnte, ohne dass Nutzer es bemerkten. Das Experiment umfasste mehr her als 272.000 Angriffsversuche auf 13 hochentwickelte KI-Modelle.
Für Krypto-Plattformen sind diese Risiken weitaus gravierender, da ein kompromittierter KI-Agent Vermögenswerte direkt kontrollieren kann.
Web3-Entwickler fordern strengere Schutzmaßnahmen
Sicherheitsrelevante Experten warnen immer lauter vor der Notwendigkeit strengerer Kontrollen, bevor man KI-Agenten die finanzielle Kontrolle überträgt.
Aaron Ratcliff, Leiter der Zuweisung beim Blockchain-Analystenhaus Merkle Science, sagt schon seit Längerem, dass der direkte Zugriff von KI auf Krypto-Geldbörsen neue Vertrauensfragen in Systeme einbringt, die ursprünglich dafür gedacht waren, Vertrauensannahmen zu eliminieren.
Er ist der Meinung, dass KI-Agenten in der Lage sein sollten, vorteilsnehmende Handelsaktivitäten zu melden, Slippage-Schutz durchzusetzen, unseriöse Token zu identifizieren und Verträge vor der Ausführung von Geschäften zu prüfen. Er betonte auch die Notwendigkeit von geschützten Testumgebungen für Eingabeaufforderungen und Abwehrmechanismen gegen Injektionsangriffe.
Unterdessen erklärte Sean Ren, Mitbegründer von Sahara AI, dass richtig konfigurierte Modell-Kontext-Protokolle als Wächter zwischen KI-Systemen und Krypto-Geldbörsen fungieren können.
Auf diese Weise können Agenten Transaktionen vorbereiten oder Kontostände prüfen, ohne dass ihnen uneingeschränkter Zugriff gewährt wird.
Auch Regierungen werden langsam aufmerksam. Die Geheimdienstallianz Five Eyes hat Unternehmen gerade davor gewarnt, agentenbasierte KI in sensible Umgebungen zu integrieren, ohne dass Sicherheit und ein striktes Identitätsmanagement vorhanden sind.
Branchenanalysten glauben mittlerweile, dass die KI-Sicherheit einer der größten Kämpfe des nächsten Web3-Zyklus sein wird.
Warum die Sicherheit von KI-Agenten plötzlich so wichtig wird
Der KI-Boom veranlasst Unternehmen dazu, autonome Systeme hastig bereitzustellen, während die Sicherheitsstandards nur schwer Schritt halten können.
Ein aktueller Bericht ergab, dass 80 Prozent der Fortune-500-Unternehmen bereits KI-Agenten in Live-Umgebungen testen. Aber nur 14 Prozent haben das gesamte Sicherheitsfreigabeverfahren abgeschlossen. Diese Lücke sorgt im Finanz- und Kryptobereich für ernsthafte Besorgnis.
Für Blockchain-Netzwerke steht noch mehr auf dem Spiel, da KI-Agenten mittlerweile in Systemen agieren, in denen Transaktionen nicht rückgängig gemacht werden können. Ein kompromittierter Agent gibt nicht nur Daten preis, er kann Geld bewegen, Verträge ändern oder Trades sofort ausführen.
Fazit
Die Sicherheit von KI-Agenten entwickelt sich rasant zu einem der größten Gesprächsthemen im Kryptobereich. Da autonome Systeme immer besser darin werden, Dinge ohne menschliches Zutun zu erledigen, warnen Forscher, dass sie nicht einfach wie vertrauenswürdige Systeme behandelt werden dürfen.
Die neuesten Forschungsergebnisse von Google, Gray Swan AI und einigen führenden Sicherheitsteams fügen hinzu, dass KI-Agenten durch Schutzmaßnahmen auf Systemebene, begrenzte Berechtigungen und glaubwürdige Infrastruktur-Absicherungen kontrolliert werden müssen.
Glossar
KI-Agent: Eine Software, die eigenständig agieren und Entscheidungen ohne ständige menschliche Eingaben treffen kann.
Einschleusen von Eingabeaufforderungen (Prompt Injection): Ein Angriff, bei dem bösartige Anweisungen in Daten oder Eingabeaufforderungen versteckt werden, um das Verhalten der KI zu manipulieren.
Dezentrale Finanzmärkte (DeFi): Dezentrale Finanzanwendungen, die auf Blockchain-Netzwerken betrieben werden.
Zero-Day-Angriff: Ein Cyberangriff, der eine zuvor unbekannte Sicherheitslücke ausnutzt.
Web3: Auf Blockchain basierende Internet-Infrastruktur, die auf Dezentralisierung und digitales Eigentum ausgerichtet ist.
Häufig gestellte Fragen zur Sicherheit von KI-Agenten
Warum wird die Sicherheit von KI-Agenten zu einer Sorge?
Es besteht ein wachsendes Risiko, dass diese KI-Agenten, wenn sie geknackt werden, echtes Chaos anrichten könnten, insbesondere wenn sie Krypto-Geldbörsen, APIs und Handelssysteme kontrollieren.
Was sagen die Forscher zur Sicherheit von KI-Agenten?
Sie empfehlen, KI-Agenten als nicht vertrauenswürdige Systeme zu behandeln und die Sicherheit auf der Infrastrukturebene durchzusetzen.
Was bedeutet das für die von uns genutzten Krypto-Plattformen?
Wenn KI-Agenten gehackt werden, könnte dies bedeuten, dass Gelder abgezogen, unseriöse Trades getätigt oder sogar sensible Informationen an die falschen Personen weitergegeben werden.
Verlassen sich bereits Unternehmen auf KI?
Ja, viele Krypto- und Unternehmensplattformen nutzen bereits KI-Agenten, um Aufgaben vom Handel bis hin zu grundlegenden Abläufen zu automatisieren.
Referenzen
