El mundo merece la confianza de que las empresas estadounidenses que desarrollan una IA cada vez más capaz actuarán de manera responsable, especialmente cuando la trayectoria del progreso se ha acelerado. Cada laboratorio de vanguardia debe cumplir con esto, y no hay razón para que cualquiera de nosotros acuda al trabajo si no podemos hacerlo.
Damos la bienvenida a un marco federal que establezca requisitos de seguridad coherentes para la IA de vanguardia. Pero no creemos que necesitemos esperar una exención antimonopolio o una legislación para comenzar el trabajo de brindar esta confianza. Las reglas coherentes para gestionar el riesgo de frontera, de modo que podamos maximizar los beneficios, es una buena idea (y nos entusiasman propuestas como auditores independientes).
Hace años, empresas como la nuestra desarrollaron cosas como Políticas de Escalado Responsable y Marcos de Preparación. Eso fue bueno para ese momento y se centraba principalmente en el despliegue de modelos ya completados, no en lo que ocurre durante el proceso de desarrollo.
El cambio de hoy hacia el enfoque en el desarrollo y la evaluación seguros requerirá nuevas herramientas. Por ejemplo, en OpenAI ahora formulamos casos de seguridad explícitos antes de ejecutar aprendizajes por refuerzo en la frontera, con la expectativa de aumentar significativamente la capacidad, además del trabajo de seguridad que hemos realizado desde hace mucho tiempo antes de los lanzamientos de modelos.
Esperamos que otras empresas aprendan de nuestros enfoques y propongan los suyos; creemos que los estándares compartidos para la desalineación, la supervisión y la seguridad conducirán a mejores resultados. Esperamos colaborar con nuestros colegas de toda la industria para formular la mejor versión de esto.
Cuando hablamos de “ritmo”, no nos referimos a “detenerse”. El progreso ha sido rápido y seguirá siéndolo. Pero debería ser más lento de lo que podría ser; las intervenciones como los casos de seguridad y la supervisión tienen costos significativos.
El ritmo valdrá la pena con creces ese costo; ninguna cantidad de presión competitiva estadounidense debería justificar la temeridad, ni permitir que las capacidades se adelanten a la alineación y la supervisión.
Donde necesitaremos la ayuda de nuestro gobierno es para la coordinación internacional. Pero primero deberíamos hacer lo que podamos nosotros mismos.
Damos la bienvenida a un marco federal que establezca requisitos de seguridad coherentes para la IA de vanguardia. Pero no creemos que necesitemos esperar una exención antimonopolio o una legislación para comenzar el trabajo de brindar esta confianza. Las reglas coherentes para gestionar el riesgo de frontera, de modo que podamos maximizar los beneficios, es una buena idea (y nos entusiasman propuestas como auditores independientes).
Hace años, empresas como la nuestra desarrollaron cosas como Políticas de Escalado Responsable y Marcos de Preparación. Eso fue bueno para ese momento y se centraba principalmente en el despliegue de modelos ya completados, no en lo que ocurre durante el proceso de desarrollo.
El cambio de hoy hacia el enfoque en el desarrollo y la evaluación seguros requerirá nuevas herramientas. Por ejemplo, en OpenAI ahora formulamos casos de seguridad explícitos antes de ejecutar aprendizajes por refuerzo en la frontera, con la expectativa de aumentar significativamente la capacidad, además del trabajo de seguridad que hemos realizado desde hace mucho tiempo antes de los lanzamientos de modelos.
Esperamos que otras empresas aprendan de nuestros enfoques y propongan los suyos; creemos que los estándares compartidos para la desalineación, la supervisión y la seguridad conducirán a mejores resultados. Esperamos colaborar con nuestros colegas de toda la industria para formular la mejor versión de esto.
Cuando hablamos de “ritmo”, no nos referimos a “detenerse”. El progreso ha sido rápido y seguirá siéndolo. Pero debería ser más lento de lo que podría ser; las intervenciones como los casos de seguridad y la supervisión tienen costos significativos.
El ritmo valdrá la pena con creces ese costo; ninguna cantidad de presión competitiva estadounidense debería justificar la temeridad, ni permitir que las capacidades se adelanten a la alineación y la supervisión.
Donde necesitaremos la ayuda de nuestro gobierno es para la coordinación internacional. Pero primero deberíamos hacer lo que podamos nosotros mismos.