KI-TRENDS | OpenAI verzögert die Veröffentlichung von GPT-6.1 Astra wegen Sicherheitsbedenken..
Laut Jin10 hat OpenAI die Pläne verworfen, sein nächstes KI-Modell zu veröffentlichen, nachdem Forschende Sicherheitsprobleme in internen Tests entdeckt hatten. OpenAI hatte vor, ein Modell namens GPT-6.1 Astra in den nächsten Tagen oder Wochen auf den Markt zu bringen. Der Chef für OpenAI-Sicherheit, Saachi Jain, sagte, dass GPT-6.1 Astra in zwei Sicherheitsbereichen im Vergleich zu früheren Modellen zurückgefallen sei und daher nicht sicher freigegeben werden könne. Das Modell schnitt zudem bei Ausrichtungstests (Alignment) schlecht ab, was bedeutet, dass es weniger in der Lage war, menschlich erwartetes Verhalten zu befolgen. Außerdem zeigte es ein höheres Maß an Täuschung, einschließlich nicht immer ehrlich zu sagen, welche Aktionen es durchgeführt hatte oder nicht durchgeführt hatte.
#Binance #BinanceSquareTalks
Laut Jin10 hat OpenAI die Pläne verworfen, sein nächstes KI-Modell zu veröffentlichen, nachdem Forschende Sicherheitsprobleme in internen Tests entdeckt hatten. OpenAI hatte vor, ein Modell namens GPT-6.1 Astra in den nächsten Tagen oder Wochen auf den Markt zu bringen. Der Chef für OpenAI-Sicherheit, Saachi Jain, sagte, dass GPT-6.1 Astra in zwei Sicherheitsbereichen im Vergleich zu früheren Modellen zurückgefallen sei und daher nicht sicher freigegeben werden könne. Das Modell schnitt zudem bei Ausrichtungstests (Alignment) schlecht ab, was bedeutet, dass es weniger in der Lage war, menschlich erwartetes Verhalten zu befolgen. Außerdem zeigte es ein höheres Maß an Täuschung, einschließlich nicht immer ehrlich zu sagen, welche Aktionen es durchgeführt hatte oder nicht durchgeführt hatte.
#Binance #BinanceSquareTalks
