$OPENAI
ChatGPT restringe la información sobre armas para usuarios menores de 18 años; también limita preguntas aparentemente inofensivas
El 30 de octubre, hora de Estados Unidos, OpenAI anunció que ChatGPT impondrá más restricciones a la información relacionada con armas a la que pueden acceder los usuarios menores de 18 años, incluso si las preguntas parecen inofensivas. OpenAI describió este ajuste como nuevas restricciones sobre el contenido relacionado con armas de fuego para menores. Las políticas actuales ya prohíben ayudar a cualquier persona a planificar o cometer actos de violencia, y también limitan la ayuda a adolescentes para buscar o conseguir armas. Las nuevas reglas van más allá y restringen para los adolescentes incluso la información práctica sobre armas y sistemas de seguridad que podría utilizarse indebidamente para facilitar actos violentos, aunque no haya indicios de intención violenta en la conversación. OpenAI afirmó que los adolescentes aún podrán usar ChatGPT para prevenir y resolver situaciones de violencia, buscar apoyo y ponerse en contacto con un adulto de confianza. La empresa señaló que estas medidas de protección comenzarán a implementarse en las próximas semanas y que seguirán ajustándose después.
La predicción de edad determinará continuamente si un usuario es menor de 18 años; los adultos clasificados por error podrán verificar su edad mediante Persona para eliminar las restricciones
Las nuevas restricciones se aplicarán a los usuarios que OpenAI determine o prediga que son menores de 18 años. El año pasado, OpenAI lanzó un sistema de predicción de edad que estima si un usuario es menor de 18 años a partir de diversas señales, como sus patrones de comportamiento. Ahora, la empresa reforzará el sistema para que evalúe continuamente nuevas señales durante el uso y, cuando sea necesario, traslade a los adolescentes a la versión para menores.
Los adultos que hayan sido clasificados por error en la versión para menores podrán confirmar que son mayores de edad mediante Persona, el socio de verificación de edad, y eliminar así las protecciones adicionales para adolescentes. Esta versión para menores es la versión de ChatGPT para adolescentes que OpenAI lanzó anteriormente, que ya imponía más restricciones sobre el contenido sensible.
Para todos los usuarios: ya no se reconstruirán los detalles de las armas utilizadas en ataques masivos del pasado; las conversaciones centradas en la violencia podrán cerrarse automáticamente
Otro conjunto de cambios se aplicará a usuarios de todas las edades. OpenAI limitará la capacidad de ChatGPT para reconstruir detalles de ataques masivos ocurridos en el pasado, incluidos las armas y el equipo utilizados, cómo se obtuvieron y comparaciones detalladas sobre el número de víctimas que podrían aumentar la notoriedad de los atacantes. Esto se aplicará incluso si la información está disponible en otros lugares de internet, y sin importar la edad del usuario ni el motivo de su pregunta.
OpenAI escribió: «La gente debería poder pedirle a ChatGPT que les ayude a comprender estos hechos y el impacto que tuvieron en las víctimas y las comunidades, y a aprender a reconocer señales de alerta y prevenir futuros actos de violencia».
Cuando aparezcan señales de alerta en una conversación, ChatGPT será más prudente al proporcionar información que podría utilizarse indebidamente. Si la conversación indica que el usuario está obsesionado con la violencia o con la idea de causar lesiones graves a otras personas, ChatGPT podrá finalizarla automáticamente. Si una misma cuenta ve sus conversaciones finalizadas repetidamente por este motivo, OpenAI podría suspenderla.
En cuanto a los controles parentales, en julio OpenAI amplió las notificaciones de seguridad: los padres reciben un aviso si se suspende la cuenta de un adolescente por infringir las políticas de uso relacionadas con la violencia. El siguiente paso será notificar a los padres también cuando se suspenda la cuenta de un adolescente por hablar repetidamente sobre violencia.
Según informó Reuters, un informe publicado a principios de octubre por la organización sin ánimo de lucro Common Sense Media concluyó que, cuando en las cuentas de adolescentes aparecen conversaciones relacionadas con el suicidio, las autolesiones o los trastornos alimentarios, ChatGPT para adolescentes suele avisar demasiado tarde a los padres o no les avisa en absoluto.
Más de 200 casos remitidos a las fuerzas del orden en el tercer trimestre; el primer informe de seguridad comunitaria se publicará a principios de 2027
OpenAI afirmó que durante el tercer trimestre de 2026 remitió más de 200 casos a las fuerzas del orden por amenazas de violencia inminentes.
OpenAI también se comprometió a publicar un «Informe de seguridad comunitaria» que explicará cómo sus sistemas detectan, investigan y responden a problemas de seguridad comunitaria, como la violencia, e incluirá casos anonimizados y datos relacionados. El primer informe se publicará a principios de 2027 y abarcará la segunda mitad de 2026. Después, se actualizará cada seis meses.
Este artículo, «ChatGPT restringe la información sobre armas para usuarios menores de 18 años; también limita preguntas aparentemente inofensivas», apareció originalmente en .
ChatGPT restringe la información sobre armas para usuarios menores de 18 años; también limita preguntas aparentemente inofensivas
El 30 de octubre, hora de Estados Unidos, OpenAI anunció que ChatGPT impondrá más restricciones a la información relacionada con armas a la que pueden acceder los usuarios menores de 18 años, incluso si las preguntas parecen inofensivas. OpenAI describió este ajuste como nuevas restricciones sobre el contenido relacionado con armas de fuego para menores. Las políticas actuales ya prohíben ayudar a cualquier persona a planificar o cometer actos de violencia, y también limitan la ayuda a adolescentes para buscar o conseguir armas. Las nuevas reglas van más allá y restringen para los adolescentes incluso la información práctica sobre armas y sistemas de seguridad que podría utilizarse indebidamente para facilitar actos violentos, aunque no haya indicios de intención violenta en la conversación. OpenAI afirmó que los adolescentes aún podrán usar ChatGPT para prevenir y resolver situaciones de violencia, buscar apoyo y ponerse en contacto con un adulto de confianza. La empresa señaló que estas medidas de protección comenzarán a implementarse en las próximas semanas y que seguirán ajustándose después.
La predicción de edad determinará continuamente si un usuario es menor de 18 años; los adultos clasificados por error podrán verificar su edad mediante Persona para eliminar las restricciones
Las nuevas restricciones se aplicarán a los usuarios que OpenAI determine o prediga que son menores de 18 años. El año pasado, OpenAI lanzó un sistema de predicción de edad que estima si un usuario es menor de 18 años a partir de diversas señales, como sus patrones de comportamiento. Ahora, la empresa reforzará el sistema para que evalúe continuamente nuevas señales durante el uso y, cuando sea necesario, traslade a los adolescentes a la versión para menores.
Los adultos que hayan sido clasificados por error en la versión para menores podrán confirmar que son mayores de edad mediante Persona, el socio de verificación de edad, y eliminar así las protecciones adicionales para adolescentes. Esta versión para menores es la versión de ChatGPT para adolescentes que OpenAI lanzó anteriormente, que ya imponía más restricciones sobre el contenido sensible.
Para todos los usuarios: ya no se reconstruirán los detalles de las armas utilizadas en ataques masivos del pasado; las conversaciones centradas en la violencia podrán cerrarse automáticamente
Otro conjunto de cambios se aplicará a usuarios de todas las edades. OpenAI limitará la capacidad de ChatGPT para reconstruir detalles de ataques masivos ocurridos en el pasado, incluidos las armas y el equipo utilizados, cómo se obtuvieron y comparaciones detalladas sobre el número de víctimas que podrían aumentar la notoriedad de los atacantes. Esto se aplicará incluso si la información está disponible en otros lugares de internet, y sin importar la edad del usuario ni el motivo de su pregunta.
OpenAI escribió: «La gente debería poder pedirle a ChatGPT que les ayude a comprender estos hechos y el impacto que tuvieron en las víctimas y las comunidades, y a aprender a reconocer señales de alerta y prevenir futuros actos de violencia».
Cuando aparezcan señales de alerta en una conversación, ChatGPT será más prudente al proporcionar información que podría utilizarse indebidamente. Si la conversación indica que el usuario está obsesionado con la violencia o con la idea de causar lesiones graves a otras personas, ChatGPT podrá finalizarla automáticamente. Si una misma cuenta ve sus conversaciones finalizadas repetidamente por este motivo, OpenAI podría suspenderla.
En cuanto a los controles parentales, en julio OpenAI amplió las notificaciones de seguridad: los padres reciben un aviso si se suspende la cuenta de un adolescente por infringir las políticas de uso relacionadas con la violencia. El siguiente paso será notificar a los padres también cuando se suspenda la cuenta de un adolescente por hablar repetidamente sobre violencia.
Según informó Reuters, un informe publicado a principios de octubre por la organización sin ánimo de lucro Common Sense Media concluyó que, cuando en las cuentas de adolescentes aparecen conversaciones relacionadas con el suicidio, las autolesiones o los trastornos alimentarios, ChatGPT para adolescentes suele avisar demasiado tarde a los padres o no les avisa en absoluto.
Más de 200 casos remitidos a las fuerzas del orden en el tercer trimestre; el primer informe de seguridad comunitaria se publicará a principios de 2027
OpenAI afirmó que durante el tercer trimestre de 2026 remitió más de 200 casos a las fuerzas del orden por amenazas de violencia inminentes.
OpenAI también se comprometió a publicar un «Informe de seguridad comunitaria» que explicará cómo sus sistemas detectan, investigan y responden a problemas de seguridad comunitaria, como la violencia, e incluirá casos anonimizados y datos relacionados. El primer informe se publicará a principios de 2027 y abarcará la segunda mitad de 2026. Después, se actualizará cada seis meses.
Este artículo, «ChatGPT restringe la información sobre armas para usuarios menores de 18 años; también limita preguntas aparentemente inofensivas», apareció originalmente en .