$WLD El mundo merece la confianza de que las empresas estadounidenses que desarrollan una IA cada vez más capaz actuarán de manera responsable, especialmente cuando la trayectoria del progreso se ha acelerado. Cada laboratorio de frontera debe cumplir con esto, y no hay motivo alguno para que cualquiera de nosotros vaya a trabajar si no puede hacerlo.
Damos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera. Pero no creemos que necesitemos esperar una exención antimonopolio o una legislación para comenzar el trabajo de brindar esa confianza. Normas coherentes para gestionar el riesgo de la IA de frontera, de modo que podamos maximizar los beneficios, es una buena idea (y nos entusiasman ideas como auditores independientes).
Hace años, empresas como la nuestra desarrollaron cosas como Políticas de Escalamiento Responsable y Marcos de Preparación. Eran adecuadas para ese momento y se centraban principalmente en el despliegue de modelos ya completados, no en lo que sucede durante su proceso de desarrollo.
El cambio actual hacia el enfoque en el desarrollo y la evaluación seguros requerirá herramientas nuevas. Por ejemplo, en OpenAI ahora formulamos casos de seguridad explícitos antes de ejecutar refuerzo en la frontera, en la expectativa de aumentar significativamente la capacidad, además del trabajo de seguridad que hemos realizado durante mucho tiempo antes de los lanzamientos de modelos.
Esperamos que otras empresas aprendan de nuestros enfoques y propongan los suyos; creemos que los estándares compartidos para la desalineación, el monitoreo y la seguridad llevarán a mejores resultados. Esperamos colaborar con nuestros colegas de toda la industria para formular la mejor versión de esto.
Cuando hablamos de “ritmo” (pacing), no queremos decir “detener”. El progreso ha sido rápido y seguirá siéndolo. Pero debería ser más lento de lo que podría ser; las intervenciones como los casos de seguridad y el monitoreo tienen costos significativos.
El ritmo valdrá mucho este costo; ninguna cantidad de presión competitiva estadounidense debería justificar la temeridad, ni permitir que las capacidades se adelanten a la alineación y el monitoreo.
Donde necesitaremos el apoyo de nuestro gobierno es para la coordinación internacional. Pero primero deberíamos hacer lo que podamos nosotros mismos.
#SamAltman #OpenAI #chatgpt
Damos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera. Pero no creemos que necesitemos esperar una exención antimonopolio o una legislación para comenzar el trabajo de brindar esa confianza. Normas coherentes para gestionar el riesgo de la IA de frontera, de modo que podamos maximizar los beneficios, es una buena idea (y nos entusiasman ideas como auditores independientes).
Hace años, empresas como la nuestra desarrollaron cosas como Políticas de Escalamiento Responsable y Marcos de Preparación. Eran adecuadas para ese momento y se centraban principalmente en el despliegue de modelos ya completados, no en lo que sucede durante su proceso de desarrollo.
El cambio actual hacia el enfoque en el desarrollo y la evaluación seguros requerirá herramientas nuevas. Por ejemplo, en OpenAI ahora formulamos casos de seguridad explícitos antes de ejecutar refuerzo en la frontera, en la expectativa de aumentar significativamente la capacidad, además del trabajo de seguridad que hemos realizado durante mucho tiempo antes de los lanzamientos de modelos.
Esperamos que otras empresas aprendan de nuestros enfoques y propongan los suyos; creemos que los estándares compartidos para la desalineación, el monitoreo y la seguridad llevarán a mejores resultados. Esperamos colaborar con nuestros colegas de toda la industria para formular la mejor versión de esto.
Cuando hablamos de “ritmo” (pacing), no queremos decir “detener”. El progreso ha sido rápido y seguirá siéndolo. Pero debería ser más lento de lo que podría ser; las intervenciones como los casos de seguridad y el monitoreo tienen costos significativos.
El ritmo valdrá mucho este costo; ninguna cantidad de presión competitiva estadounidense debería justificar la temeridad, ni permitir que las capacidades se adelanten a la alineación y el monitoreo.
Donde necesitaremos el apoyo de nuestro gobierno es para la coordinación internacional. Pero primero deberíamos hacer lo que podamos nosotros mismos.
#SamAltman #OpenAI #chatgpt