OpenAI anunció el 30 de octubre, hora de Estados Unidos, que limitará aún más la información relacionada con armas a la que pueden acceder los usuarios de ChatGPT menores de 18 años, incluso cuando las preguntas parezcan inofensivas.
OpenAI calificó este ajuste como una nueva restricción sobre el contenido relacionado con armas de fuego dirigido a menores. La política vigente ya prohíbe ayudar a cualquier persona a planear o llevar a cabo actos violentos, y limita la ayuda a adolescentes para buscar u obtener armas. Las nuevas reglas amplían aún más esas restricciones: también limitarán para los adolescentes la información práctica sobre armas y sistemas de seguridad que podría usarse indebidamente para facilitar la violencia, incluso si en la conversación no hay indicios de intención violenta.
OpenAI afirma que los adolescentes aún pueden usar ChatGPT para ayudar a prevenir y resolver la violencia, buscar apoyo y ponerse en contacto con un adulto de confianza. La empresa dice que estas medidas de protección empezarán a implementarse en las próximas semanas y que luego se seguirán ajustando.
Si la predicción de edad determina continuamente que una persona es menor de 18 años, los adultos identificados por error podrán verificar su edad mediante Persona para eliminar la restricción.
Las nuevas restricciones se aplican a los usuarios que OpenAI determine o prediga que son menores de 18 años. OpenAI lanzó el año pasado un sistema de predicción de edad que estima si un usuario es menor de 18 años a partir de diversas señales, como sus patrones de comportamiento. Ahora lo ha reforzado para evaluar continuamente nuevas señales durante el uso y, cuando sea necesario, pasar a los adolescentes a la versión para menores.
Los adultos identificados por error como menores y trasladados a la versión para menores podrán confirmar que son mayores de edad a través de Persona, socio de verificación de edad, y eliminar las protecciones adicionales para adolescentes. Esta versión para menores es la versión de ChatGPT para adolescentes que OpenAI presentó anteriormente, que ya imponía más restricciones al contenido sensible.
Todos los usuarios: ya no se reconstruirán los detalles sobre las armas utilizadas en ataques masivos anteriores; las conversaciones centradas en la violencia podrán finalizarse automáticamente.
Otra parte de los cambios se aplica a todos los usuarios, independientemente de su edad. OpenAI limitará la capacidad de ChatGPT para reconstruir los detalles de ataques masivos ocurridos en el pasado, incluidos las armas y el equipo utilizados, cómo se obtuvieron y comparaciones detalladas de la magnitud de las víctimas que podrían amplificar la notoriedad de los atacantes. Esto se aplicará aunque la información pueda encontrarse en otros sitios de internet, sin importar la edad del usuario ni el motivo de su pregunta.
OpenAI escribió: «Las personas deberían poder pedirle ayuda a ChatGPT para comprender estos sucesos y su impacto en las víctimas y las comunidades, así como para aprender a reconocer las señales de alerta y prevenir futuros actos de violencia».
Cuando aparezcan señales de alerta en una conversación, ChatGPT será más cauteloso al proporcionar información que podría utilizarse indebidamente. Si la conversación indica que el usuario está obsesionado con la violencia o con la idea de causar daños graves a otras personas, ChatGPT podrá finalizarla automáticamente. Si una misma cuenta sufre varias interrupciones de este tipo, OpenAI podría suspenderla.
En cuanto a las funciones para padres, OpenAI amplió en julio las notificaciones de seguridad de los controles parentales: se avisa a los padres cuando se desactiva la cuenta de un adolescente por infringir las políticas de uso relacionadas con la violencia. El siguiente paso será avisarles también cuando se suspenda una cuenta de adolescente por hablar reiteradamente sobre violencia.
Según informó Reuters, un informe publicado a principios de octubre por la organización sin ánimo de lucro Common Sense Media concluyó que, cuando en las cuentas de adolescentes aparecen conversaciones relacionadas con el suicidio, las autolesiones o los trastornos alimentarios, ChatGPT para adolescentes suele avisar demasiado tarde a los padres o no avisarles en absoluto.
Más de 200 casos remitidos a las fuerzas del orden en el tercer trimestre; el primer informe sobre seguridad comunitaria se publicará a principios de 2027
OpenAI afirma que en el tercer trimestre de 2026 remitió más de 200 casos a las fuerzas del orden por amenazas inminentes de violencia.
OpenAI también se comprometió a publicar un (informe sobre seguridad comunitaria) que explique cómo sus sistemas detectan, investigan y responden a problemas de seguridad comunitaria, como la violencia, e incluya casos anonimizados y datos relacionados. El primer informe se publicará a principios de 2027 y abarcará el segundo semestre de 2026; después se actualizará cada seis meses.
Este artículo, «ChatGPT restringe la información sobre armas para los usuarios menores de 18 años; también limita preguntas que parecen inofensivas», apareció originalmente en 。
【Análisis complementario】
【Mi análisis complementario】
El refuerzo de los controles de OpenAI sobre los adolescentes y el contenido sensible marca la aceleración de la transición de la industria de la IA generativa desde una «expansión sin restricciones» hacia una nueva etapa que prioriza el cumplimiento normativo y la seguridad. A medida que se endurecen las regulaciones mundiales sobre la gobernanza de la IA —como la (Ley de IA) de la Unión Europea y la legislación estadounidense sobre seguridad de los adolescentes en internet—, los gigantes comerciales de la IA deben equilibrar la innovación y el cumplimiento. La incorporación de la predicción continua de edad y la verificación de identidad por terceros (Persona) anticipa que los servicios de IA integrarán cada vez más la verificación de identidad (KYC) y la supervisión de seguridad de contenido en tiempo real. Los sistemas de defensa para garantizar el cumplimiento se convertirán en una de las principales barreras competitivas para los proveedores de grandes modelos de lenguaje.
【Impacto en el mercado】
1. Mercado bursátil estadounidense:
- Microsoft (MSFT): 【Neutral con sesgo alcista】. Como socio clave de OpenAI, el endurecimiento proactivo de sus medidas de seguridad y cumplimiento puede reducir eficazmente el riesgo de futuras multas regulatorias cuantiosas y demandas, lo que favorecería la estabilidad de su valoración a largo plazo.
- Sector de ciberseguridad y verificación de identidad (como Okta): 【Neutral con sesgo alcista】. La creciente demanda de verificación continua de identidad y revisiones de cumplimiento por parte de las plataformas de IA podría impulsar el crecimiento potencial del negocio de proveedores externos de verificación de identidad y servicios de seguridad digital.
- Sector tecnológico en general (como Alphabet y Meta): 【Neutral】. Los costos de cumplimiento podrían aumentar a corto plazo, pero, a largo plazo, esto contribuiría a elevar las barreras de entrada al sector y consolidar la posición de mercado de las empresas líderes.
2. Criptomonedas y mercado bursátil taiwanés:
- Criptomonedas: 【Neutral】. El endurecimiento de la regulación de la IA centralizada podría estimular el debate en el mercado sobre la identidad descentralizada (DID) y los protocolos de IA de código abierto, pero a corto plazo su impacto en los precios generales del mercado cripto será limitado.
- Mercado bursátil taiwanés: 【Neutral】. La cadena de suministro de IA del mercado bursátil taiwanés se concentra principalmente en la fabricación de hardware y la producción por contrato, por lo que se ve muy poco afectada directamente por las políticas de cumplimiento aplicables al software de cara al usuario final.
【Aspectos que conviene seguir】
Habrá que seguir de cerca la implementación de leyes específicas por parte de los organismos reguladores de Europa y Estados Unidos para proteger a los adolescentes en las plataformas de IA, y si estos estrictos mecanismos de revisión acelerarán el traslado de algunos desarrolladores y usuarios a modelos de lenguaje de código abierto con menos restricciones (como las versiones derivadas de Llama). También conviene seguir observando las garantías de privacidad en el tratamiento de los datos de los usuarios por parte de mecanismos de verificación de terceros como Persona.
【Advertencia de riesgos】
Si los mecanismos de revisión de seguridad de la IA presentan una tasa de falsos positivos demasiado alta, podrían deteriorar la experiencia de los usuarios adultos y provocar su pérdida. Asimismo, si la vigilancia continua del comportamiento y la verificación de identidad sufren una filtración de datos, podrían desencadenar nuevas crisis de cumplimiento normativo y confianza pública.