Чем дольше я использую AI, тем больше я понимаю, что один вопрос очень важен: сколько именно информации о "мне" ему нужно знать?
Часто мы не отказываемся от использования AI, а перед вводом данных подсознательно меняем несколько слов, скрывая некоторые суждения, убирая часть реального контекста. Потому что эти данные могут касаться торговых предпочтений, стратегии аккаунта, понимания проектов, а также еще не публичных планов.
Это также то, что я заметил, когда разбирал @OpenGradient и OpenGradient Chat. Они не только акцентируют внимание на том, что модель может отвечать, но и пересматривают границы, прежде чем данные попадают в модель. Вводимые пользователем данные сначала обрабатываются локально, информация о личности и контент разделяются, а модели нужно понимать семантику, не обязательно связывая это с конкретным человеком.
Насколько далеко может зайти такой подход, еще предстоит выяснить в ходе реального использования. Но, по крайней мере, в процессе изучения $OPG мне все больше кажется, что в будущем конкуренция AI будет заключаться не только в том, чтобы лучше понимать пользователей, но и в том, чтобы лучше понимать границы.
Хороший AI не должен знать все, он должен понимать, что не обязательно знать.
#OPG
Часто мы не отказываемся от использования AI, а перед вводом данных подсознательно меняем несколько слов, скрывая некоторые суждения, убирая часть реального контекста. Потому что эти данные могут касаться торговых предпочтений, стратегии аккаунта, понимания проектов, а также еще не публичных планов.
Это также то, что я заметил, когда разбирал @OpenGradient и OpenGradient Chat. Они не только акцентируют внимание на том, что модель может отвечать, но и пересматривают границы, прежде чем данные попадают в модель. Вводимые пользователем данные сначала обрабатываются локально, информация о личности и контент разделяются, а модели нужно понимать семантику, не обязательно связывая это с конкретным человеком.
Насколько далеко может зайти такой подход, еще предстоит выяснить в ходе реального использования. Но, по крайней мере, в процессе изучения $OPG мне все больше кажется, что в будущем конкуренция AI будет заключаться не только в том, чтобы лучше понимать пользователей, но и в том, чтобы лучше понимать границы.
Хороший AI не должен знать все, он должен понимать, что не обязательно знать.
#OPG