После того как я разобрался с @OpenGradient и путем обработки данных OpenGradient Chat, в моих заметках уже долгое время витает один вопрос: сколько информации о "этом человеке" на самом деле нужно знать ИИ?
Когда я ежедневно использую ИИ для организации рабочих структур и записи разбросанных мыслей, я иногда замечаю тонкую привычку; для некоторых незрелых суждений я инстинктивно подправляю несколько слов или откладываю их запись. Это сдерживание не связано с отсутствием возможностей ИИ, а скорее с тем, что граница данных между пользователем и ИИ еще не была переопределена.
Продолжая разбирать дизайн OpenGradient, я больше сосредоточен на том, что происходит до того, как данные попадают в модель. Вводимые пользователем данные сначала шифруются и обрабатываются на локальных устройствах, и информация, связанная с личностью, на этом этапе удаляется. Затем большая модель получает семантический контент, который нужно понять и проанализировать, а не идентификационную метку, соответствующую конкретному пользователю.
Это заставило меня переосмыслить направление конфиденциальности ИИ. Большая часть прежних обсуждений сосредоточивалась на том, как данные хранятся и управляются, в то время как этот дизайн пытается вернуть вопрос к тому, что происходит до того, как данные попадают в модель, уменьшая зависимость модели от информации о пользователе при понимании контента.
Станет ли этот подход важным направлением для будущих систем ИИ, я не могу сказать точно. Но, по крайней мере, во время моего исследования $OPG и #OPG , я все больше беспокоюсь о одном вопросе: возможно, будущий выдающийся ИИ не только будет лучше нас понимать, но и должен знать, какие части ему не нужно знать.
#opg $OPG
Когда я ежедневно использую ИИ для организации рабочих структур и записи разбросанных мыслей, я иногда замечаю тонкую привычку; для некоторых незрелых суждений я инстинктивно подправляю несколько слов или откладываю их запись. Это сдерживание не связано с отсутствием возможностей ИИ, а скорее с тем, что граница данных между пользователем и ИИ еще не была переопределена.
Продолжая разбирать дизайн OpenGradient, я больше сосредоточен на том, что происходит до того, как данные попадают в модель. Вводимые пользователем данные сначала шифруются и обрабатываются на локальных устройствах, и информация, связанная с личностью, на этом этапе удаляется. Затем большая модель получает семантический контент, который нужно понять и проанализировать, а не идентификационную метку, соответствующую конкретному пользователю.
Это заставило меня переосмыслить направление конфиденциальности ИИ. Большая часть прежних обсуждений сосредоточивалась на том, как данные хранятся и управляются, в то время как этот дизайн пытается вернуть вопрос к тому, что происходит до того, как данные попадают в модель, уменьшая зависимость модели от информации о пользователе при понимании контента.
Станет ли этот подход важным направлением для будущих систем ИИ, я не могу сказать точно. Но, по крайней мере, во время моего исследования $OPG и #OPG , я все больше беспокоюсь о одном вопросе: возможно, будущий выдающийся ИИ не только будет лучше нас понимать, но и должен знать, какие части ему не нужно знать.
#opg $OPG