De acordo com a CNBC, a OpenAI, na segunda-feira, apresentou propostas para segurança e proteção no desenvolvimento de inteligência artificial (IA) de fronteira, com foco em pesquisas de alinhamento e em melhoria recursiva de si mesma, ou RSI. A empresa disse que é necessária cooperação internacional para desenvolver padrões de fronteira e pediu que os reguladores se baseiem no trabalho de institutos existentes de segurança em IA ao redor do mundo. A OpenAI afirmou que as normas devem se concentrar nos modelos de IA de fronteira e nos desenvolvedores, bem como em gerenciamento de benefícios e riscos para pesquisadores automatizados de IA, incluindo RSI. A empresa disse que uma RSI totalmente autônoma não está acontecendo hoje e não deve ser perseguida, a menos que possa ser feita com segurança, alertando que isso poderia deixar os humanos sem controle prático sobre o desenvolvimento da IA. Na semana passada, a Anthropic divulgou suas próprias ideias para o desenvolvimento seguro de modelos de IA de fronteira.
