OpenAI爲前沿AI發展發佈安全提案
據CNBC報道，OpenAI在週一發佈了關於前沿人工智能開發的安全與安保提案，重點包括對齊研究和遞歸自我改進（RSI）。該公司表示，需要國際合作來制定前沿標準，並敦促監管機構在全球現有AI安全研究機構工作的基礎上繼續推進。OpenAI稱，這些標準應以前沿AI模型及其開發者爲核心，併爲自動化AI研究者提供收益-風險管理，包括RSI。公司表示，完全自主的RSI並未在今天發生，也不應在無法確保安全的情況下追求，警告稱這可能導致人類無法對AI開發進行實際控制。上週，Anthropic也發佈了關於安全開發前沿AI模型的自有想法。
$OPENAI