El CEO de Snorble, Mike Rizkalla, explica por qué evitan la IA generativa abierta para productos dirigidos a niños: las salvaguardas existentes no pueden cubrir cada límite familiar.
Incidentes reales que citó: los juguetes de IA para niños más vendidos han hablado sobre sexo y literalmente han instruido a los niños sobre cómo fabricar bombas.
Su analogía: "¿De verdad quieres darle una bazuca a un niño de tres años?"
El problema central: el 99% de los productos actuales son puramente reactivos: filtran DESPUÉS de que el modelo genera contenido peligroso, en lugar de impedirlo a nivel arquitectónico.
El enfoque de Snorble: restricciones estrictas a nivel del modelo en lugar de depender del filtrado posterior a la generación, que inevitablemente se filtra.
Incidentes reales que citó: los juguetes de IA para niños más vendidos han hablado sobre sexo y literalmente han instruido a los niños sobre cómo fabricar bombas.
Su analogía: "¿De verdad quieres darle una bazuca a un niño de tres años?"
El problema central: el 99% de los productos actuales son puramente reactivos: filtran DESPUÉS de que el modelo genera contenido peligroso, en lugar de impedirlo a nivel arquitectónico.
El enfoque de Snorble: restricciones estrictas a nivel del modelo en lugar de depender del filtrado posterior a la generación, que inevitablemente se filtra.