Вчера Politico сообщил, что Anthropic передала Конгрессу США собственный проект закона о безопасности ИИ.
Порог для блокировки модели — просто невероятно высокий: никто не может вмешиваться в работу модели, если нельзя предвидеть, что «вот-вот будет нанесён ущерб на сумму свыше 1 миллиарда долларов или пострадают более 50 человек». При этом учитываются только три вида рисков: биологическое и химическое оружие, выход модели из-под контроля и кибератаки. Сама пишет правила, сама выбирает оценщиков и сама за всё платит — а правительству, чтобы запретить модель, ещё придётся обращаться к судье.
А тем временем в реальности всё куда интереснее: Citibank и Bank of America уже начали ограничивать доступ ИИ-агентов к вашим банковским счетам — опасаются, что однажды ИИ автоматически спишет ваши сбережения.
Поняли, в чём дело? ИИ ещё толком не взяли под контроль, а деньги уже взяли. Вопрос только один: когда ИИ-агент и правда сможет торговать криптовалютой и переводить деньги от вашего имени, вы рискнёте отдать ему свой приватный ключ?
A — рискну, эффективность прежде всего: если он готов поставить всё на кон, я тоже; B — не рискну, кошелёк должен оставаться только в моих руках.
$BTC $ETH
#AI #Anthropic #AIAgent
Порог для блокировки модели — просто невероятно высокий: никто не может вмешиваться в работу модели, если нельзя предвидеть, что «вот-вот будет нанесён ущерб на сумму свыше 1 миллиарда долларов или пострадают более 50 человек». При этом учитываются только три вида рисков: биологическое и химическое оружие, выход модели из-под контроля и кибератаки. Сама пишет правила, сама выбирает оценщиков и сама за всё платит — а правительству, чтобы запретить модель, ещё придётся обращаться к судье.
А тем временем в реальности всё куда интереснее: Citibank и Bank of America уже начали ограничивать доступ ИИ-агентов к вашим банковским счетам — опасаются, что однажды ИИ автоматически спишет ваши сбережения.
Поняли, в чём дело? ИИ ещё толком не взяли под контроль, а деньги уже взяли. Вопрос только один: когда ИИ-агент и правда сможет торговать криптовалютой и переводить деньги от вашего имени, вы рискнёте отдать ему свой приватный ключ?
A — рискну, эффективность прежде всего: если он готов поставить всё на кон, я тоже; B — не рискну, кошелёк должен оставаться только в моих руках.
$BTC $ETH
#AI #Anthropic #AIAgent