Snapchat se encuentra en el punto de mira del organismo de control de la privacidad de datos del Reino Unido por su chatbot de inteligencia artificial, “My AI”, que ha generado preocupación por su incapacidad para abordar adecuadamente los riesgos de privacidad.
El gigante de las redes sociales, Snapchat, se enfrenta ahora a una severa advertencia del organismo regulador de datos del Reino Unido con respecto a su reciente incursión en la inteligencia artificial (IA). Específicamente, la advertencia se refiere a "My AI", un chatbot desarrollado por Snapchat, como se revela en una actualización oficial de la autoridad reguladora.
El 6 de octubre, la Oficina del Comisionado de Información (ICO) del Reino Unido emitió un aviso preliminar a Snap Inc. y su filial, Snap Group, que supervisan colectivamente las operaciones de Snapchat. Este aviso se centra en su presunta negligencia al realizar una evaluación exhaustiva de los riesgos de privacidad asociados con "Mi IA".
Este aviso preliminar surge de una investigación en curso realizada por la ICO, que ha puesto de relieve las deficiencias en la identificación y mitigación de los riesgos de privacidad asociados con "Mi IA". Estos riesgos se extienden a millones de usuarios, incluidos menores de 13 a 17 años, que pueden haber estado expuestos a vulnerabilidades de privacidad imprevistas debido al lanzamiento del chatbot.
John Edwards, Comisionado de Información del Reino Unido, enfatizó la importancia de considerar los riesgos que plantean las tecnologías de IA, junto con sus beneficios potenciales. Subrayó el compromiso de la ICO de salvaguardar los derechos de privacidad de los consumidores del Reino Unido y reveló que el aviso de aplicación preliminar demuestra su determinación a este respecto.
Según el aviso, si se emite un aviso de ejecución final, Snap podría verse obligado a suspender el procesamiento de datos relacionados con "Mi IA". Tal acción haría imposible que la empresa ofreciera el servicio a usuarios con sede en el Reino Unido sin someterse a una evaluación de riesgos "adecuada". Sin embargo, es importante señalar que no se debe tomar una decisión concluyente en esta etapa de las investigaciones en curso, según la declaración de la ICO.
Snapchat presentó inicialmente su chatbot de IA a los usuarios de Snapchat+ en el Reino Unido en febrero de 2023, con una disponibilidad más amplia a partir de abril del mismo año. Impulsado por la tecnología GPT-4 de vanguardia de OpenAI, "My AI" es reconocido por el organismo de control de datos como la "primera instancia de integración de IA generativa en una importante plataforma de mensajería en el Reino Unido".
En respuesta al aviso preliminar de la ICO, un portavoz de Snap se comunicó con Cointelegraph y manifestó el compromiso de la compañía de revisar de cerca las preocupaciones regulatorias. El portavoz afirmó la dedicación de la empresa a salvaguardar la privacidad del usuario y destacó el riguroso proceso de revisión legal y de privacidad al que se sometió "My AI" antes de su lanzamiento público. También expresaron su voluntad de colaborar con el ICO para garantizar la adecuación de sus procedimientos de evaluación de riesgos.
A lo largo del año, destacadas plataformas de redes sociales han estado integrando funciones de inteligencia artificial en sus operaciones. El 4 de octubre, LinkedIn, la plataforma de redes sociales centrada en los negocios propiedad de Microsoft, presentó herramientas de inteligencia artificial adicionales para reclutadores e introdujo un asistente de inteligencia artificial en su centro de aprendizaje. Asimismo, los gigantes tecnológicos Meta, la empresa matriz de Facebook e Instagram, y Google también han revelado planes para incorporar chatbots de IA en sus ofertas de servicios.
La publicación El organismo de control de datos del Reino Unido advierte a Snapchat sobre los riesgos asociados con los chatbots de IA apareció por primera vez en BitcoinWorld.