A OpenAI publica propostas de segurança para o desenvolvimento de IA de ponta
De acordo com a CNBC, a OpenAI na segunda-feira publicou propostas para segurança e proteção no desenvolvimento de inteligência artificial de ponta, com foco em pesquisas de alinhamento e em melhorias recursivas de autoaperfeiçoamento, ou RSI. A empresa disse que é necessária cooperação internacional para desenvolver padrões de referência e pediu aos reguladores que se baseiem no trabalho de institutos existentes de segurança em IA ao redor do mundo. A OpenAI afirmou que os padrões devem se concentrar em modelos de IA de ponta e em desenvolvedores, além de gerenciamento de benefícios e riscos para pesquisadores automatizados de IA, incluindo RSI. A empresa disse que o RSI totalmente autônomo não está acontecendo hoje e não deve ser perseguido a menos que possa ser feito com segurança, alertando que isso poderia deixar os humanos sem controle prático sobre o desenvolvimento da IA. Na semana passada, a Anthropic divulgou suas próprias ideias para o desenvolvimento seguro de modelos de IA de ponta.
$OPENAI
De acordo com a CNBC, a OpenAI na segunda-feira publicou propostas para segurança e proteção no desenvolvimento de inteligência artificial de ponta, com foco em pesquisas de alinhamento e em melhorias recursivas de autoaperfeiçoamento, ou RSI. A empresa disse que é necessária cooperação internacional para desenvolver padrões de referência e pediu aos reguladores que se baseiem no trabalho de institutos existentes de segurança em IA ao redor do mundo. A OpenAI afirmou que os padrões devem se concentrar em modelos de IA de ponta e em desenvolvedores, além de gerenciamento de benefícios e riscos para pesquisadores automatizados de IA, incluindo RSI. A empresa disse que o RSI totalmente autônomo não está acontecendo hoje e não deve ser perseguido a menos que possa ser feito com segurança, alertando que isso poderia deixar os humanos sem controle prático sobre o desenvolvimento da IA. Na semana passada, a Anthropic divulgou suas próprias ideias para o desenvolvimento seguro de modelos de IA de ponta.
$OPENAI
