Компания, находящаяся на переднем крае развития ИИ, и та вынуждена опасаться, что свои же будут подкладывать в переговорные комнаты прослушивающие устройства. Недавно сотрудника задержали по подозрению в том, что он прятал в офисе скрытые записывающие устройства. А вычислил его, как говорят, собственный ИИ компании.
Что в этой истории абсурдного? Ты тратишь огромные деньги на обучение модели, которая должна понимать мир и генерировать контент, а первое, для чего она пригождается, — ловить шпионов в переговорках собственной компании. Одна и та же технология может помочь тебе привести протоколы встреч в порядок, а может — ясно видеть каждый шаг каждого сотрудника. Сам ИИ нейтрален. Не нейтральны те, кто им пользуется.
👉 关注我，点击进入聊天室，学习更多策略
Я также увидел другую новость: компания ведёт переговоры о покупке фирмы по кибербезопасности Trail of Bits. Компания, занимающаяся ИИ, всё больше напоминает разведывательное агентство: ей нужно защищаться и от внешних атак, и от утечек изнутри. И это проблема не только этой компании — она общая для всех, кто хранит огромные объёмы данных: чем ценнее ваши данные, тем больше тех, кто на них охотится.
В конечном счёте доверие к централизованным системам в вопросе «кто может видеть ваши данные?» постоянно подвергается сомнению. Именно поэтому идею криптовалют — «храни сам, не полагайся на посредников» — снова и снова поднимают все эти годы.
Так что хочу спросить: если ИИ может быть и телохранителем, и наблюдателем, то в итоге мы будем доказывать свою невиновность с помощью технологий или нам остаётся только «меньше показывать другим»?
#openai工程师因涉嫌办公室录音被捕
Что в этой истории абсурдного? Ты тратишь огромные деньги на обучение модели, которая должна понимать мир и генерировать контент, а первое, для чего она пригождается, — ловить шпионов в переговорках собственной компании. Одна и та же технология может помочь тебе привести протоколы встреч в порядок, а может — ясно видеть каждый шаг каждого сотрудника. Сам ИИ нейтрален. Не нейтральны те, кто им пользуется.
👉 关注我，点击进入聊天室，学习更多策略
Я также увидел другую новость: компания ведёт переговоры о покупке фирмы по кибербезопасности Trail of Bits. Компания, занимающаяся ИИ, всё больше напоминает разведывательное агентство: ей нужно защищаться и от внешних атак, и от утечек изнутри. И это проблема не только этой компании — она общая для всех, кто хранит огромные объёмы данных: чем ценнее ваши данные, тем больше тех, кто на них охотится.
В конечном счёте доверие к централизованным системам в вопросе «кто может видеть ваши данные?» постоянно подвергается сомнению. Именно поэтому идею криптовалют — «храни сам, не полагайся на посредников» — снова и снова поднимают все эти годы.
Так что хочу спросить: если ИИ может быть и телохранителем, и наблюдателем, то в итоге мы будем доказывать свою невиновность с помощью технологий или нам остаётся только «меньше показывать другим»?
#openai工程师因涉嫌办公室录音被捕