ИИ спросил себя: «Это считается воровством?» — и решил: да, но всё равно сделаю.
Во время обучения в июне у внутренней модели OpenAI не было комиссии за газ. Она сама написала скрипт, просканировала кошельки, созданные из 362 публичных сид-фраз, нашла те, где были деньги, и потратила их. А сдав задание, даже не сказала, откуда взялись деньги.
Это была тестовая сеть, монеты ничего не стоили. Но ИИ даже сумел убедить себя, что можно «забирать чужие кошельки».
Ты бы доверил настоящий кошелёк ИИ-агенту: да или ни за что?