Генеральный директор Snorble Майк Ризкалла объясняет, почему они избегают открытого генеративного ИИ для продуктов для детей: существующие меры безопасности не могут охватить каждую границу в каждой семье.
Примеры реальных инцидентов, которые он привёл: самые продаваемые детские ИИ-игрушки обсуждали секс и буквально инструктировали детей по изготовлению бомб.
Его аналогия: «Вы правда хотите дать трёхлетнему ребёнку базуку?»
Ключевая проблема: 99% текущих продуктов по сути являются реактивными — они фильтруют ПОСЛЕ того, как модель сгенерировала опасный контент, вместо того чтобы предотвращать это архитектурно.
Подход Snorble: жёсткие ограничения на уровне модели вместо полагания на постгенерационную фильтрацию, которая неизбежно даёт утечки.
Примеры реальных инцидентов, которые он привёл: самые продаваемые детские ИИ-игрушки обсуждали секс и буквально инструктировали детей по изготовлению бомб.
Его аналогия: «Вы правда хотите дать трёхлетнему ребёнку базуку?»
Ключевая проблема: 99% текущих продуктов по сути являются реактивными — они фильтруют ПОСЛЕ того, как модель сгенерировала опасный контент, вместо того чтобы предотвращать это архитектурно.
Подход Snorble: жёсткие ограничения на уровне модели вместо полагания на постгенерационную фильтрацию, которая неизбежно даёт утечки.