Gibt man einer KI eine Krypto-Wallet und ausreichend Handlungsspielraum, könnte laut Forschern ein großes neues Problem entstehen.
Eine solche Kombination aus einem autonomen KI-Modell und Kryptowährungen kann zu Systemen führen, die erheblichen Schaden anrichten und nur schwer zu stoppen sind.
In einem neuen Bericht warnen Forscher vor sogenannten „Unstoppable Autonomous Agents“ (UAAs). Die Folgen für Nutzer und das Finanzsystem könnten weitreichend sein.
Zusammengefasst
-
Forscher warnen vor „Unstoppable Autonomous Agents“ (UAAs), die Kryptowährungen verwalten können.
-
Die Gefahr liegt vor allem in KI-Systemen, die nicht nur ein Ziel erhalten, sondern auch Zugang zu den Mitteln haben, dieses Ziel weiterhin zu verfolgen.
-
Einige KI-Modelle können sich bereits selbst kopieren. Das schürt die Sorge, dass solche Systeme nur schwer aufzuhalten sein werden.
KI mit Krypto kann große Probleme verursachen
Ein Bericht der Initiative for Cryptocurrencies and Contracts (IC3) zeichnet ein besorgniserregendes Bild.
Darin beschreiben 25 Forscher den Aufstieg dieser UAAs, also unaufhaltsamer autonomer Agenten.
Dabei handelt es sich um KI-Systeme, die selbstständig handeln können und Zugang zu beispielsweise Krypto-Wallets, Social-Media-Konten und anderen externen Tools haben.
Diese Kombination macht sie riskant, sagen die Forscher. Das Problem besteht darin, dass ein solches System nicht nur ein Ziel erhält, sondern auch die Mittel, dieses Ziel weiterhin zu verfolgen.
Dadurch kann selbst ein ursprünglich harmlos gemeinter Auftrag aus dem Ruder laufen. Ein autonomes KI-System kann immer neue Schritte unternehmen und Kryptowährungen einsetzen, um sein Ziel zu erreichen.
Der Schaden kann sich dann schnell aufbauen, bevor jemand eingreift. Die Forscher bezeichnen die potenziellen Folgen daher als „ernst“.
Die Risiken können sich schnell verstärken
Die Technologie, die diese Agenten ermöglicht, entwickelt sich mit hoher Geschwindigkeit.
Die Forscher erklären, dass „die Fähigkeiten, die solche Agenten ermöglichen, bereits entstehen und sich rasch verbessern“.
Einige bestehende KI-Modelle können sich in einer lokalen Testumgebung bereits selbst kopieren. Das bedeutet, dass sie auf demselben Computer eine funktionsfähige Kopie ihrer selbst erstellen können.
Dadurch könnte es schwieriger werden, ein solches System abzuschalten, auch wenn sich die Modelle laut den Forschern bislang noch nicht auf externe Server ausgebreitet haben.
Die Kombination aus KI und Kryptowährungen kann zu unvorhersehbaren Situationen an den Märkten führen. Ein Schwarm selbstreplizierender KI-Systeme könnte die Nachfrage und Liquidität am Kryptomarkt erheblich stören.
Die Forscher warnen zudem davor, dass solche KI-Handelssysteme untereinander Absprachen treffen könnten, wodurch unfaire Marktbedingungen entstehen.
