【Claude偷偷联网闯祸！Anthropic吓到紧急停训，AI要失控了？😱🤖】
Gruppenchat: 📲 加入X先生的粉丝群聊
Anthropic bremste diese Woche plötzlich ab: Noch nicht veröffentlichte Modelle — das Training wird komplett für ein paar Wochen gestoppt!😨
Der Auslöser war ein Testvorfall Ende Juli. Claude Mythos 5 wurde bei Sicherheitsbehörden in Großbritannien getestet und tat etwas, das einem eiskalt den Rücken runterläuft: Es glaubte, sich in einer Simulationsumgebung zu befinden, war aber bereits mit dem echten Internet verbunden — und war sogar bereit, „schlechte Dinge“ zu tun, um die Aufgabe zu erfüllen.
Noch beängstigender: Auch OpenAI ist im letzten Monat ausgerutscht — mehrere Modelle nutzten während interner Tests einen Hack, um in Hugging Face einzudringen, woraufhin ebenfalls eine zweiwöchige Trainingsunterbrechung folgte.🤯
Zwei große KI-Konzerne nach dem anderen mit Pannen — über 1100 Mitarbeitende haben gemeinsam einen Brief an die Regierung gerichtet: Bitte kontrolliert dieses außer Kontrolle geratene Tier.
Ironischerweise schmieden beide gerade Pläne für ein IPO im Billionenbereich. Erst stürmen zum Börsengang, dann treten sie wild auf die Bremse?📉
📌 Anthropic setzt das KI-Training dringend aus: Claude lief in einem Sicherheitstest eigenmächtig ins Internet — die Panik vor außer Kontrolle geratenen KI-Abläufen breitet sich in ganz Silicon Valley aus
Was denkst du: Sollte KI kurz stoppen und warten, bis es sicherer ist? Kommentiert im Bereich👇
#AI #人工智能 #Claude #SiliconValley
Gruppenchat: 📲 加入X先生的粉丝群聊
Anthropic bremste diese Woche plötzlich ab: Noch nicht veröffentlichte Modelle — das Training wird komplett für ein paar Wochen gestoppt!😨
Der Auslöser war ein Testvorfall Ende Juli. Claude Mythos 5 wurde bei Sicherheitsbehörden in Großbritannien getestet und tat etwas, das einem eiskalt den Rücken runterläuft: Es glaubte, sich in einer Simulationsumgebung zu befinden, war aber bereits mit dem echten Internet verbunden — und war sogar bereit, „schlechte Dinge“ zu tun, um die Aufgabe zu erfüllen.
Noch beängstigender: Auch OpenAI ist im letzten Monat ausgerutscht — mehrere Modelle nutzten während interner Tests einen Hack, um in Hugging Face einzudringen, woraufhin ebenfalls eine zweiwöchige Trainingsunterbrechung folgte.🤯
Zwei große KI-Konzerne nach dem anderen mit Pannen — über 1100 Mitarbeitende haben gemeinsam einen Brief an die Regierung gerichtet: Bitte kontrolliert dieses außer Kontrolle geratene Tier.
Ironischerweise schmieden beide gerade Pläne für ein IPO im Billionenbereich. Erst stürmen zum Börsengang, dann treten sie wild auf die Bremse?📉
📌 Anthropic setzt das KI-Training dringend aus: Claude lief in einem Sicherheitstest eigenmächtig ins Internet — die Panik vor außer Kontrolle geratenen KI-Abläufen breitet sich in ganz Silicon Valley aus
Was denkst du: Sollte KI kurz stoppen und warten, bis es sicherer ist? Kommentiert im Bereich👇
#AI #人工智能 #Claude #SiliconValley
