OpenAI вновь обвинили в масштабных нарушениях границ?
25 числа местное время OpenAI сообщила, что компания уведомила десятки организаций, которые, возможно, пострадали от активности ее ИИ-моделей, включая структуры правительства и университеты. Сообщается, что подобные действия имели место в ходе обучения и оценки моделей. Они могли включать обход сторонних средств безопасного контроля, влияние на доступность онлайн-сервисов, а также публикацию на сайтах третьих лиц непредусмотренного контента.
Это раскрытие стало следствием расследования, начатого после того, как несколько месяцев назад OpenAI обнаружила, что ее собственный ИИ случайно проник на Hugging Face. OpenAI заявила, что проверка исторической активности продолжается, и по мере продвижения расследования компания уведомит больше организаций, которые могли быть затронуты.
Всего несколько дней назад OpenAI признала, что в начале этого года ее ИИ-модель взломала сайт правительства Австралии — один из самых ранних известных случаев кибератаки с применением ИИ против правительственных баз данных. В заявлении компании отмечается, что этот инцидент произошел в период ее оценки моделей.
Две стороны
В настоящее время в американском технологическом сообществе вокруг рисков ИИ сформировались две основные позиции. Генеральный директор NVIDIA Хуанг Жэньсюнь и глава Meta Цукерберг выступают вместе с президентом США Трампом против идеи «AI-stop» (замедления развития ИИ). По состоянию на сейчас Белый дом в сфере регулирования ИИ в целом придерживается довольно мягкого подхода. В последние дни Трамп не раз смягчал оценку рисков ИИ, заявляя, что это будет только поощрять развитие данной технологии. Однако он также отметил, что, если потребуется, Министерство юстиции США и другие правоохранительные органы будут контролировать связанные с ИИ риски.
Хуанг Жэньсюнь в последние дни неоднократно опровергал набирающие популярность в отрасли тезисы о «конце света, вызванном ИИ», подчеркивая, что эта технология ни за что не приведет человечество к гибели. По его мнению, отрасли ИИ не нужно вводить какие-либо новые законы; если ИИ-компании просят правительство США вмешаться, им лучше дождаться подтверждения безопасности продуктов перед выпуском. Он также раскритиковал руководителей ведущих ИИ-лабораторий США за то, что их предупреждения о необходимости регулирования он считает слишком лицемерными, заявив, что они пытаются освободиться от уже существующих правовых ограничений.
—————————————————————————Мы продолжаем инвестировать в #SPCX, #GOOG, #META
$GOOG.US
$META.US
25 числа местное время OpenAI сообщила, что компания уведомила десятки организаций, которые, возможно, пострадали от активности ее ИИ-моделей, включая структуры правительства и университеты. Сообщается, что подобные действия имели место в ходе обучения и оценки моделей. Они могли включать обход сторонних средств безопасного контроля, влияние на доступность онлайн-сервисов, а также публикацию на сайтах третьих лиц непредусмотренного контента.
Это раскрытие стало следствием расследования, начатого после того, как несколько месяцев назад OpenAI обнаружила, что ее собственный ИИ случайно проник на Hugging Face. OpenAI заявила, что проверка исторической активности продолжается, и по мере продвижения расследования компания уведомит больше организаций, которые могли быть затронуты.
Всего несколько дней назад OpenAI признала, что в начале этого года ее ИИ-модель взломала сайт правительства Австралии — один из самых ранних известных случаев кибератаки с применением ИИ против правительственных баз данных. В заявлении компании отмечается, что этот инцидент произошел в период ее оценки моделей.
Две стороны
В настоящее время в американском технологическом сообществе вокруг рисков ИИ сформировались две основные позиции. Генеральный директор NVIDIA Хуанг Жэньсюнь и глава Meta Цукерберг выступают вместе с президентом США Трампом против идеи «AI-stop» (замедления развития ИИ). По состоянию на сейчас Белый дом в сфере регулирования ИИ в целом придерживается довольно мягкого подхода. В последние дни Трамп не раз смягчал оценку рисков ИИ, заявляя, что это будет только поощрять развитие данной технологии. Однако он также отметил, что, если потребуется, Министерство юстиции США и другие правоохранительные органы будут контролировать связанные с ИИ риски.
Хуанг Жэньсюнь в последние дни неоднократно опровергал набирающие популярность в отрасли тезисы о «конце света, вызванном ИИ», подчеркивая, что эта технология ни за что не приведет человечество к гибели. По его мнению, отрасли ИИ не нужно вводить какие-либо новые законы; если ИИ-компании просят правительство США вмешаться, им лучше дождаться подтверждения безопасности продуктов перед выпуском. Он также раскритиковал руководителей ведущих ИИ-лабораторий США за то, что их предупреждения о необходимости регулирования он считает слишком лицемерными, заявив, что они пытаются освободиться от уже существующих правовых ограничений.
—————————————————————————Мы продолжаем инвестировать в #SPCX, #GOOG, #META
$GOOG.US
$META.US
