顶级黑客 Николас Карлини был одним из самых известных скептиков в области безопасности ИИ. Работая в Google, он открыто смеялся над OpenAI за то, что те откладывали выпуск GPT-2 из-за страха перед рисками безопасности, называя это "слишком консервативным". Теперь, в возрасте 35 лет, этот хакер стал ведущим экспертом по безопасности в Anthropic — будучи впечатленным возможностями своей модели, он перешел от блокировки релиза к продвижению политики безопасности ИИ в Белом доме.

Почему это важно: это знаменует собой изменение отношения ведущих экспертов по безопасности ИИ — когда возможности модели превосходят ожидания, необходимо новое равновесие между безопасностью технологий и продвижением политики.

#Anthropic #AI #安全 #白宫