Anthropic wurde gestern von Politico enthüllt: Das Unternehmen hat dem US-Kongress einen selbst verfassten Gesetzentwurf zur KI-Sicherheit vorgelegt.
Die Hürde, ein Modell abzuschalten, ist absurd hoch: Niemand darf ein Modell antasten, es sei denn, es ist absehbar, dass unmittelbar ein Schaden von über einer Milliarde Dollar oder mehr als 50 Tote oder Verletzte drohen. Und als Risiken gelten nur drei Kategorien: Biowaffen, ein Modell, das sich selbst der Kontrolle entzieht, und Cyberangriffe. Sie schreiben die Regeln selbst, suchen sich ihre eigenen Gutachter aus und bezahlen sie auch noch selbst. Und die Regierung müsste erst einmal vor einen Richter ziehen, um ein Modell verbieten zu lassen.
Andererseits ist die Realität viel brisanter als der Gesetzentwurf: Citi und die Bank of America haben bereits Maßnahmen ergriffen und schränken den Zugriff von KI-Agenten auf deine Bankkonten ein – aus Angst, dass die KI eines Tages deine Ersparnisse automatisch überweist.
Kapiert? Die KI ist noch nicht richtig unter Kontrolle, aber das Geld wird schon unter Kontrolle gebracht. Es gibt nur eine Frage: Wenn ein KI-Agent wirklich für dich mit Kryptowährungen handeln und Überweisungen tätigen kann – würdest du ihm deinen Private Key anvertrauen?
A: Ja, Effizienz über alles – wenn er all-in geht, gehe ich mit. B: Nein, mein Wallet muss ich selbst in der Hand behalten.
$BTC $ETH
#AI #Anthropic #AIAgent
Die Hürde, ein Modell abzuschalten, ist absurd hoch: Niemand darf ein Modell antasten, es sei denn, es ist absehbar, dass unmittelbar ein Schaden von über einer Milliarde Dollar oder mehr als 50 Tote oder Verletzte drohen. Und als Risiken gelten nur drei Kategorien: Biowaffen, ein Modell, das sich selbst der Kontrolle entzieht, und Cyberangriffe. Sie schreiben die Regeln selbst, suchen sich ihre eigenen Gutachter aus und bezahlen sie auch noch selbst. Und die Regierung müsste erst einmal vor einen Richter ziehen, um ein Modell verbieten zu lassen.
Andererseits ist die Realität viel brisanter als der Gesetzentwurf: Citi und die Bank of America haben bereits Maßnahmen ergriffen und schränken den Zugriff von KI-Agenten auf deine Bankkonten ein – aus Angst, dass die KI eines Tages deine Ersparnisse automatisch überweist.
Kapiert? Die KI ist noch nicht richtig unter Kontrolle, aber das Geld wird schon unter Kontrolle gebracht. Es gibt nur eine Frage: Wenn ein KI-Agent wirklich für dich mit Kryptowährungen handeln und Überweisungen tätigen kann – würdest du ihm deinen Private Key anvertrauen?
A: Ja, Effizienz über alles – wenn er all-in geht, gehe ich mit. B: Nein, mein Wallet muss ich selbst in der Hand behalten.
$BTC $ETH
#AI #Anthropic #AIAgent