OpenAI veröffentlicht Sicherheitsvorschläge für die Entwicklung von Frontier-KI
Laut CNBC hat OpenAI am Montag Vorschläge für Sicherheit und Schutz bei der Entwicklung von KI der Spitzenklasse veröffentlicht. Im Fokus stehen dabei Ausrichtungsforschung und rekursive Selbstverbesserung (Recursive Self-Improvement, RSI). Das Unternehmen erklärte, dass internationale Zusammenarbeit nötig sei, um bahnbrechende Standards zu entwickeln, und forderte Regulierungsbehörden dazu auf, auf der Arbeit bestehender KI-Sicherheitsinstitute weltweit aufzubauen. OpenAI sagte, die Standards sollten sich auf Frontier-KI-Modelle und Entwickler konzentrieren sowie auf ein Nutzen-Risiko-Management für automatisierte KI-Forscher, einschließlich RSI. Das Unternehmen erklärte, dass vollständig autonome RSI heute nicht stattfinde und nicht verfolgt werden sollte, wenn es nicht sicher umgesetzt werden könne. Es warnte, dies könne dazu führen, dass Menschen keinen praktischen Einfluss mehr auf die KI-Entwicklung hätten. Letzte Woche hatte auch Anthropic eigene Ideen für die sichere Entwicklung von KI-Modellen der Spitzenklasse veröffentlicht.
$OPENAI
Laut CNBC hat OpenAI am Montag Vorschläge für Sicherheit und Schutz bei der Entwicklung von KI der Spitzenklasse veröffentlicht. Im Fokus stehen dabei Ausrichtungsforschung und rekursive Selbstverbesserung (Recursive Self-Improvement, RSI). Das Unternehmen erklärte, dass internationale Zusammenarbeit nötig sei, um bahnbrechende Standards zu entwickeln, und forderte Regulierungsbehörden dazu auf, auf der Arbeit bestehender KI-Sicherheitsinstitute weltweit aufzubauen. OpenAI sagte, die Standards sollten sich auf Frontier-KI-Modelle und Entwickler konzentrieren sowie auf ein Nutzen-Risiko-Management für automatisierte KI-Forscher, einschließlich RSI. Das Unternehmen erklärte, dass vollständig autonome RSI heute nicht stattfinde und nicht verfolgt werden sollte, wenn es nicht sicher umgesetzt werden könne. Es warnte, dies könne dazu führen, dass Menschen keinen praktischen Einfluss mehr auf die KI-Entwicklung hätten. Letzte Woche hatte auch Anthropic eigene Ideen für die sichere Entwicklung von KI-Modellen der Spitzenklasse veröffentlicht.
$OPENAI
