Según CNBC, OpenAI el lunes publicó propuestas sobre seguridad y protección en el desarrollo de la inteligencia artificial (IA) de vanguardia, con un enfoque en la investigación de alineación y la mejora recursiva del autoaprendizaje, o RSI. La compañía dijo que se necesita cooperación internacional para desarrollar estándares de frontera y pidió a los reguladores que se basen en el trabajo de institutos existentes de seguridad en IA en todo el mundo. OpenAI afirmó que los estándares deberían centrarse en los modelos de IA de vanguardia y en los desarrolladores, así como en la gestión de beneficios y riesgos para investigadores automatizados de IA, incluido el RSI. La empresa señaló que el RSI totalmente autónomo no está ocurriendo hoy y que no debe perseguirse a menos que pueda hacerse de forma segura, advirtiendo que podría dejar a los humanos sin un control práctico sobre el desarrollo de la IA. La semana pasada, Anthropic publicó sus propias ideas para el desarrollo seguro de modelos de IA de vanguardia.
$AI #AImodel