CEO Snorble, Mike Rizkalla, menjelaskan mengapa mereka menghindari generative AI yang terbuka untuk produk anak-anak: perlindungan yang ada tidak bisa mencakup setiap batasan keluarga.
Kejadian nyata yang dia sebut: mainan AI anak-anak terlaris telah membahas seks dan secara harfiah menginstruksikan anak-anak untuk membuat bom.
Analogi beliau: "Apa Anda benar-benar ingin memberikan bazooka kepada anak usia tiga tahun?"
Masalah utamanya: 99% produk saat ini bersifat reaktif murni—mereka menyaring SETELAH model menghasilkan konten berbahaya, bukan mencegahnya secara arsitektural.
Pendekatan Snorble: batasan yang ketat di tingkat model, bukan bergantung pada penyaringan setelah generasi yang tak terelakkan bocor.
Kejadian nyata yang dia sebut: mainan AI anak-anak terlaris telah membahas seks dan secara harfiah menginstruksikan anak-anak untuk membuat bom.
Analogi beliau: "Apa Anda benar-benar ingin memberikan bazooka kepada anak usia tiga tahun?"
Masalah utamanya: 99% produk saat ini bersifat reaktif murni—mereka menyaring SETELAH model menghasilkan konten berbahaya, bukan mencegahnya secara arsitektural.
Pendekatan Snorble: batasan yang ketat di tingkat model, bukan bergantung pada penyaringan setelah generasi yang tak terelakkan bocor.