🚨🚨🚨
#Anthropic остановила попытку создать биологическое оружие с помощью ИИ. На днях компания предупреждала об угрозе уничтожения человечества.
Американский разработчик искусственного интеллекта Anthropic заявил, что компания обнаружила и прекратила попытки использовать ее модель ИИ для «вредоносной деятельности», которая могла способствовать разработке биологического оружия.
Это последнее из серии предупреждений исследователей ИИ и представителей индустрии о потенциальных рисках этой технологии для человечества.
Предупреждение уже вызвало призывы к конкретным действиям. Сенатор США Берни Сандерс призвал приостановить разработку передовых систем ИИ и запретить создание искусственного суперразума.
👉 В четверг компания опубликовала свой последний отчет об угрозах. Подобные анализы публикуют и другие разработчики ИИ.
В частности, во вторник Google сообщила, что кто-то пытался использовать ее ИИ-инструмент Gemini, чтобы получить «пошаговое техническое руководство по созданию биологических агентов, предназначенных для использования в качестве оружия».
Согласно отчету Anthropic, ее модель ИИ Claude также использовали в кибершпионской кампании, связанной с Россией, а также в иранской пропагандистской структуре.
#Ai_sector #GoogleGemini
#Anthropic остановила попытку создать биологическое оружие с помощью ИИ. На днях компания предупреждала об угрозе уничтожения человечества.
Американский разработчик искусственного интеллекта Anthropic заявил, что компания обнаружила и прекратила попытки использовать ее модель ИИ для «вредоносной деятельности», которая могла способствовать разработке биологического оружия.
Это последнее из серии предупреждений исследователей ИИ и представителей индустрии о потенциальных рисках этой технологии для человечества.
Предупреждение уже вызвало призывы к конкретным действиям. Сенатор США Берни Сандерс призвал приостановить разработку передовых систем ИИ и запретить создание искусственного суперразума.
👉 В четверг компания опубликовала свой последний отчет об угрозах. Подобные анализы публикуют и другие разработчики ИИ.
В частности, во вторник Google сообщила, что кто-то пытался использовать ее ИИ-инструмент Gemini, чтобы получить «пошаговое техническое руководство по созданию биологических агентов, предназначенных для использования в качестве оружия».
Согласно отчету Anthropic, ее модель ИИ Claude также использовали в кибершпионской кампании, связанной с Россией, а также в иранской пропагандистской структуре.
#Ai_sector #GoogleGemini
