يشرح الرئيس التنفيذي لشركة سنوربل، مايك ريزكالا، لماذا يتجنبون الذكاء الاصطناعي التوليدي مفتوح النهاية في منتجات الأطفال: فالضمانات الحالية لا تستطيع تغطية كل حدود الأسرة.
الحوادث التي ذكرها: لعب ذكاء اصطناعي للأطفال الأكثر مبيعًا ناقش الجنس ووجّه الأطفال حرفيًا إلى صنع القنابل.
تشبيهه: "هل تريد حقًا أن تمنح طفلًا بعمر ثلاث سنوات قاذفة صواريخ؟"
المشكلة الأساسية: 99% من المنتجات الحالية تفاعلية بحتة—فهي تقوم بالفلترة بعد أن يولّد النموذج محتوى غير آمن بدلًا من منعه معمارياً.
نهج سنوربل: قيود صارمة على مستوى النموذج بدلًا من الاعتماد على الفلترة بعد التوليد التي لا بد أن يتسرب خلالها المحتوى.
الحوادث التي ذكرها: لعب ذكاء اصطناعي للأطفال الأكثر مبيعًا ناقش الجنس ووجّه الأطفال حرفيًا إلى صنع القنابل.
تشبيهه: "هل تريد حقًا أن تمنح طفلًا بعمر ثلاث سنوات قاذفة صواريخ؟"
المشكلة الأساسية: 99% من المنتجات الحالية تفاعلية بحتة—فهي تقوم بالفلترة بعد أن يولّد النموذج محتوى غير آمن بدلًا من منعه معمارياً.
نهج سنوربل: قيود صارمة على مستوى النموذج بدلًا من الاعتماد على الفلترة بعد التوليد التي لا بد أن يتسرب خلالها المحتوى.