Даже Сунь Чжэнъи из SoftBank начал беспокоиться о том, что ИИ может выйти из-под контроля. Возможно, это один из рисков, который все больше нельзя игнорировать на фоне стремительного развития индустрии ИИ.
4 октября генеральный директор SoftBank Group Сунь Чжэнъи на мероприятии форума в Киото заявил, что возможности ИИ растут по экспоненциальной траектории, и что страны должны выстраивать взаимное доверие, усиливать сотрудничество и вместе противостоять угрозам безопасности, исходящим от мощных моделей ИИ. Он предупредил, что если сверхинтеллект попадет в руки злоумышленников, он может стать «чрезвычайно опасным».
Эти заявления заслуживают внимания. Сунь Чжэнъи всегда был одним из самых твердых сторонников ИИ; теперь даже он публично подчеркивает риски безопасности. Это показывает, что фокус отрасли смещается с простого стремления к вычислительным мощностям и возможностям моделей — к тому, как контролировать потенциальные угрозы, создаваемые технологией.
Мое мнение: долгосрочный тренд развития ИИ не изменится, но в будущем конкуренция будет заключаться не только в сравнении возможностей моделей и объема вычислений. Безопасное управление, системы комплаенса и контроль рисков также станут важными порогами.
Для рынка это означает, что «безопасность ИИ» вовсе не обязательно ведет к охлаждению отрасли; напротив, она может способствовать концентрации средств и ресурсов в компаниях, которые обладают технологическими барьерами, компетенциями в области комплаенса и преимуществами в инфраструктуре. Настоящие возможности, возможно, кроются не только в том, кто сможет сделать ИИ еще сильнее, но и в том, кто сможет внедрять ИИ более безопасно и надежно.
4 октября генеральный директор SoftBank Group Сунь Чжэнъи на мероприятии форума в Киото заявил, что возможности ИИ растут по экспоненциальной траектории, и что страны должны выстраивать взаимное доверие, усиливать сотрудничество и вместе противостоять угрозам безопасности, исходящим от мощных моделей ИИ. Он предупредил, что если сверхинтеллект попадет в руки злоумышленников, он может стать «чрезвычайно опасным».
Эти заявления заслуживают внимания. Сунь Чжэнъи всегда был одним из самых твердых сторонников ИИ; теперь даже он публично подчеркивает риски безопасности. Это показывает, что фокус отрасли смещается с простого стремления к вычислительным мощностям и возможностям моделей — к тому, как контролировать потенциальные угрозы, создаваемые технологией.
Мое мнение: долгосрочный тренд развития ИИ не изменится, но в будущем конкуренция будет заключаться не только в сравнении возможностей моделей и объема вычислений. Безопасное управление, системы комплаенса и контроль рисков также станут важными порогами.
Для рынка это означает, что «безопасность ИИ» вовсе не обязательно ведет к охлаждению отрасли; напротив, она может способствовать концентрации средств и ресурсов в компаниях, которые обладают технологическими барьерами, компетенциями в области комплаенса и преимуществами в инфраструктуре. Настоящие возможности, возможно, кроются не только в том, кто сможет сделать ИИ еще сильнее, но и в том, кто сможет внедрять ИИ более безопасно и надежно.