OpenAI publica propuestas de seguridad para el desarrollo de IA de frontera
Según CNBC, OpenAI el lunes publicó propuestas de seguridad y protección en el desarrollo de inteligencia artificial de frontera, con un enfoque en la investigación de alineación y la mejora recursiva de sí mismo, o RSI. La compañía dijo que se necesita cooperación internacional para desarrollar estándares de frontera y pidió a los reguladores que se basen en el trabajo de los institutos de seguridad de IA existentes en todo el mundo. OpenAI indicó que los estándares deberían centrarse en los modelos de IA de frontera y en los desarrolladores, además de la gestión de beneficio-riesgo para investigadores automatizados de IA, incluido RSI. La empresa afirmó que la RSI totalmente autónoma no está ocurriendo hoy y que no debería perseguirse a menos que pueda hacerse de manera segura, advirtiendo que podría dejar a los humanos sin un control práctico sobre el desarrollo de la IA. La semana pasada, Anthropic dio a conocer sus propias ideas para el desarrollo seguro de modelos de IA de frontera.
$OPENAI
Según CNBC, OpenAI el lunes publicó propuestas de seguridad y protección en el desarrollo de inteligencia artificial de frontera, con un enfoque en la investigación de alineación y la mejora recursiva de sí mismo, o RSI. La compañía dijo que se necesita cooperación internacional para desarrollar estándares de frontera y pidió a los reguladores que se basen en el trabajo de los institutos de seguridad de IA existentes en todo el mundo. OpenAI indicó que los estándares deberían centrarse en los modelos de IA de frontera y en los desarrolladores, además de la gestión de beneficio-riesgo para investigadores automatizados de IA, incluido RSI. La empresa afirmó que la RSI totalmente autónoma no está ocurriendo hoy y que no debería perseguirse a menos que pueda hacerse de manera segura, advirtiendo que podría dejar a los humanos sin un control práctico sobre el desarrollo de la IA. La semana pasada, Anthropic dio a conocer sus propias ideas para el desarrollo seguro de modelos de IA de frontera.
$OPENAI
