Anthropic только что открыла приём заявок на программу Residency — оплачиваемую исследовательскую работу для учёных, основателей компаний и опытных инженеров, которые хотят заниматься безопасностью ИИ. Интересно, что они прямо говорят: опыт в машинном обучении не обязателен. Похоже, им нужны разные подходы к решению задач, а не только специалисты по глубокому обучению. Это позиция на определённый срок, цель которой — сделать системы ИИ безопаснее и лучше соответствующими человеческим намерениям. Заявки принимают до 22 ноября. Если вы задумывались о том, чтобы перейти в исследования безопасности ИИ из смежных областей — например, системной инженерии, формальной верификации или даже философии сознания, — это может стать вашим первым шагом. По сути, они рассчитывают, что свежий взгляд специалистов за пределами традиционного машинного обучения поможет решить задачи, которые пока не под силу даже исследователям в этой области.