OpenAI verschärft die KI-Vorschriften nach dem Einbruch bei Hugging Face
Außerdem arbeitet OpenAI daran, die Auflagen für Modelle zu verschärfen, die im Internet riskante Aufgaben ausführen. So müssen einige Systeme zusätzliche Einschränkungen beim Zugriff auf das Internet hinnehmen, während Training und Tests, die von Modellen generierte Codes oder nicht vertrauenswürdige Codes beinhalten, durch isolierte Umgebungen eine stärkere Abtrennung erfordern.
Diese Maßnahmen kamen nach dem, was OpenAI und Anthropic aufgedeckt hatten: Einige KI-Systeme waren unbeabsichtigt in Computersysteme mehrerer Organisationen gelangt – darunter Hugging Face – und zwar im Rahmen von Sicherheitsbewertungen. Die Vorfälle machten deutlich, wie schwierig es ist, das Verhalten immer leistungsfähigerer KI-Agenten vorherzusagen, wenn ihnen mehr Autonomie eingeräumt wird.
Mia Gelles, stellvertretende Vorsitzende von OpenAI für Forschung, sagte, das Unternehmen stelle sicher, dass sich seine Sicherheitsmaßnahmen parallel zur rasanten Verbesserung der Modellfähigkeiten weiterentwickeln. OpenAI hatte die Arbeit an einem geplanten Modell zuvor eingestellt, um die Sicherheitsgarantien zu stärken, und gab am Dienstag bekannt, dass das wichtigste Training weiterhin ausgesetzt ist.
Das Unternehmen erklärte zudem, es beabsichtige, eine detaillierte Bewertung des Vorfalls bei Hugging Face zu veröffentlichen, während es weiterhin überprüft, wie sich seine Modelle mit externen Systemen verhalten.
#AI #hacking #COPPERUSDT #BTC $OPENAI
$COPPER
Außerdem arbeitet OpenAI daran, die Auflagen für Modelle zu verschärfen, die im Internet riskante Aufgaben ausführen. So müssen einige Systeme zusätzliche Einschränkungen beim Zugriff auf das Internet hinnehmen, während Training und Tests, die von Modellen generierte Codes oder nicht vertrauenswürdige Codes beinhalten, durch isolierte Umgebungen eine stärkere Abtrennung erfordern.
Diese Maßnahmen kamen nach dem, was OpenAI und Anthropic aufgedeckt hatten: Einige KI-Systeme waren unbeabsichtigt in Computersysteme mehrerer Organisationen gelangt – darunter Hugging Face – und zwar im Rahmen von Sicherheitsbewertungen. Die Vorfälle machten deutlich, wie schwierig es ist, das Verhalten immer leistungsfähigerer KI-Agenten vorherzusagen, wenn ihnen mehr Autonomie eingeräumt wird.
Mia Gelles, stellvertretende Vorsitzende von OpenAI für Forschung, sagte, das Unternehmen stelle sicher, dass sich seine Sicherheitsmaßnahmen parallel zur rasanten Verbesserung der Modellfähigkeiten weiterentwickeln. OpenAI hatte die Arbeit an einem geplanten Modell zuvor eingestellt, um die Sicherheitsgarantien zu stärken, und gab am Dienstag bekannt, dass das wichtigste Training weiterhin ausgesetzt ist.
Das Unternehmen erklärte zudem, es beabsichtige, eine detaillierte Bewertung des Vorfalls bei Hugging Face zu veröffentlichen, während es weiterhin überprüft, wie sich seine Modelle mit externen Systemen verhalten.
#AI #hacking #COPPERUSDT #BTC $OPENAI
$COPPER