Según se informa, OpenAI y Anthropic llegaron a discutir una prueba cruzada de modelos
Según los medios citando a personas con conocimiento de los hechos, Anthropic y OpenAI consideraron firmar un acuerdo legalmente vinculante para realizar pruebas de presión mutuas sobre sus modelos de gran tamaño. A principios de este año, ambas empresas y sus equipos de abogados mantuvieron conversaciones sobre este plan: los competidores podrían someter los modelos más recientes disponibles de cada uno a pruebas profundas para identificar riesgos potenciales o vulnerabilidades de seguridad. Estas pruebas solo se aplican a modelos que ya se han comercializado, y ambas partes acordaron no conservar los datos del otro. El informe no aclara si finalmente ambas partes llegaron a un acuerdo de este tipo. Recientemente, ha cobrado atención la idea de implementar alguna forma de evaluación entre pares en los principales laboratorios de IA. El CEO de SpaceX, Elon Musk, sugirió la semana pasada que varias de las principales empresas de grandes modelos en Estados Unidos, junto con algunas empresas de IA de China, deberían permitir que los competidores realicen pruebas cruzadas. Musk afirmó: «Todas las empresas de IA tienen un conjunto de herramientas de prueba; lo mejor que cada una puede hacer para garantizar su seguridad es ejecutar esas herramientas usando las de la otra empresa». A principios de este mes, el investigador de Anthropic Jacob Coxon anunció su dimisión y advirtió a las principales compañías de inteligencia artificial que aceleraran el desarrollo sin medidas de protección adecuadas. Después, el CEO de Anthropic, Dario Amodei, publicó un mensaje en el que pedía que la industria reduzca el ritmo del desarrollo de IA e introduzca mecanismos de evaluación por parte de terceros. El viernes pasado, Anthropic anunció una colaboración con Accenture, que actuará como entidad de evaluación de terceros para realizar evaluaciones de seguridad y cumplimiento sobre sus modelos de IA más avanzados.
Según los medios citando a personas con conocimiento de los hechos, Anthropic y OpenAI consideraron firmar un acuerdo legalmente vinculante para realizar pruebas de presión mutuas sobre sus modelos de gran tamaño. A principios de este año, ambas empresas y sus equipos de abogados mantuvieron conversaciones sobre este plan: los competidores podrían someter los modelos más recientes disponibles de cada uno a pruebas profundas para identificar riesgos potenciales o vulnerabilidades de seguridad. Estas pruebas solo se aplican a modelos que ya se han comercializado, y ambas partes acordaron no conservar los datos del otro. El informe no aclara si finalmente ambas partes llegaron a un acuerdo de este tipo. Recientemente, ha cobrado atención la idea de implementar alguna forma de evaluación entre pares en los principales laboratorios de IA. El CEO de SpaceX, Elon Musk, sugirió la semana pasada que varias de las principales empresas de grandes modelos en Estados Unidos, junto con algunas empresas de IA de China, deberían permitir que los competidores realicen pruebas cruzadas. Musk afirmó: «Todas las empresas de IA tienen un conjunto de herramientas de prueba; lo mejor que cada una puede hacer para garantizar su seguridad es ejecutar esas herramientas usando las de la otra empresa». A principios de este mes, el investigador de Anthropic Jacob Coxon anunció su dimisión y advirtió a las principales compañías de inteligencia artificial que aceleraran el desarrollo sin medidas de protección adecuadas. Después, el CEO de Anthropic, Dario Amodei, publicó un mensaje en el que pedía que la industria reduzca el ritmo del desarrollo de IA e introduzca mecanismos de evaluación por parte de terceros. El viernes pasado, Anthropic anunció una colaboración con Accenture, que actuará como entidad de evaluación de terceros para realizar evaluaciones de seguridad y cumplimiento sobre sus modelos de IA más avanzados.