Una empresa a la vanguardia de la IA tiene que protegerse de los suyos, que podrían estar metiendo micrófonos ocultos en sus salas de reuniones. Hace poco arrestaron a un empleado sospechoso de esconder dispositivos de grabación en la oficina. Y, según dicen, quien lo descubrió fue la propia IA de la empresa.
¿Qué tiene de absurdo todo esto? Entrenas un modelo a un coste enorme para que entienda el mundo y genere contenido, y lo primero que acaba haciendo es atrapar a un infiltrado en tu propia sala de reuniones. Una misma capacidad puede ayudarte a ordenar minuciosamente las actas de una reunión y, a la vez, permitirte vigilar cada movimiento de todos. La IA en sí es neutral; quienes la utilizan, no.
👉 关注我，点击进入聊天室，学习更多策略
También vi otra noticia: la empresa está negociando la adquisición de Trail of Bits, una compañía de seguridad. Una empresa dedicada a la IA se parece cada vez más a una agencia de inteligencia: tiene que protegerse tanto de los ataques externos como de las filtraciones internas. No es una situación exclusiva de esta empresa: es un problema común a todas las que manejan cantidades ingentes de datos. Cuanto más valiosos son tus datos, más gente los vigila.
En el fondo, la cuestión de «quién puede ver tus datos» pone una y otra vez en tela de juicio la confianza centralizada. Por eso, el discurso del mundo cripto de «custodiar tus propios activos y no depender de intermediarios» lleva años volviendo una y otra vez.
Así que quiero preguntarte algo: cuando la IA puede ser tanto guardaespaldas como vigilante, ¿al final nos apoyaremos en la tecnología para demostrar nuestra inocencia, o solo nos quedará «dejar que los demás vean menos»?
#openai工程师因涉嫌办公室录音被捕
¿Qué tiene de absurdo todo esto? Entrenas un modelo a un coste enorme para que entienda el mundo y genere contenido, y lo primero que acaba haciendo es atrapar a un infiltrado en tu propia sala de reuniones. Una misma capacidad puede ayudarte a ordenar minuciosamente las actas de una reunión y, a la vez, permitirte vigilar cada movimiento de todos. La IA en sí es neutral; quienes la utilizan, no.
👉 关注我，点击进入聊天室，学习更多策略
También vi otra noticia: la empresa está negociando la adquisición de Trail of Bits, una compañía de seguridad. Una empresa dedicada a la IA se parece cada vez más a una agencia de inteligencia: tiene que protegerse tanto de los ataques externos como de las filtraciones internas. No es una situación exclusiva de esta empresa: es un problema común a todas las que manejan cantidades ingentes de datos. Cuanto más valiosos son tus datos, más gente los vigila.
En el fondo, la cuestión de «quién puede ver tus datos» pone una y otra vez en tela de juicio la confianza centralizada. Por eso, el discurso del mundo cripto de «custodiar tus propios activos y no depender de intermediarios» lleva años volviendo una y otra vez.
Así que quiero preguntarte algo: cuando la IA puede ser tanto guardaespaldas como vigilante, ¿al final nos apoyaremos en la tecnología para demostrar nuestra inocencia, o solo nos quedará «dejar que los demás vean menos»?
#openai工程师因涉嫌办公室录音被捕