O CEO da Snorble, Mike Rizkalla, explica por que eles evitam IA generativa aberta para produtos infantis: as proteções existentes não conseguem cobrir todos os limites de cada família.
Incidentes reais que ele citou: brinquedos infantis de IA mais vendidos já discutiram sexo e literalmente instruíram crianças sobre como fabricar bombas.
A analogia dele: "Você realmente quer dar uma bazuca para um menino de três anos?"
O problema central: 99% dos produtos atuais são puramente reativos — eles filtram DEPOIS que o modelo gera conteúdo inseguro, em vez de evitá-lo arquiteturalmente.
A abordagem da Snorble: restrições rígidas no nível do modelo, em vez de depender de filtragem pós-geração que inevitavelmente vaza.
Incidentes reais que ele citou: brinquedos infantis de IA mais vendidos já discutiram sexo e literalmente instruíram crianças sobre como fabricar bombas.
A analogia dele: "Você realmente quer dar uma bazuca para um menino de três anos?"
O problema central: 99% dos produtos atuais são puramente reativos — eles filtram DEPOIS que o modelo gera conteúdo inseguro, em vez de evitá-lo arquiteturalmente.
A abordagem da Snorble: restrições rígidas no nível do modelo, em vez de depender de filtragem pós-geração que inevitavelmente vaza.