ИИ, который изначально мы знали только как средство для создания текста, ответа на вопросы или генерации изображений. Сейчас эта технология развивается намного быстрее, чем многие себе представляют.
В последнее время Билл Гейтс, основатель Microsoft, предупреждает: ИИ сейчас уже обладает огромной мощью. И если такие возможности попадут в руки людей, которые действительно хотят причинить вред, последствия могут быть куда более масштабными, чем у предыдущих технологий.
Даже он упоминает один крайне мрачный сценарий: ИИ может способствовать возникновению события, в результате которого погибнут до 1 миллиарда человек. Но это не значит, что Билл Гейтс говорит: «ИИ убьёт 1 миллиард людей».
Эта цифра — лишь пример того, насколько велика потенциальная опасность, если очень мощный ИИ будет неправильно использоваться людьми со злым умыслом.
Поскольку чем более продвинутой становится технология, тем больше возможностей она может дать своим пользователям.
Проблема в том, что мы не можем предполагать, будто все люди будут применять эти возможности только во благо.
И, по словам Гейтса, передать всё на откуп технологическим компаниям, чтобы те сами следили за собой, тоже недостаточно.
Он считает необходимыми меры защиты (safeguards), мониторинг, а также участие правительства и правоохранительных органов — чтобы определить рамки и обеспечить безопасность ИИ.
Так что теперь вопрос уже не только в том: «Насколько умным можно сделать ИИ?» А в том: «Насколько безопасен этот ИИ, когда его возможности становятся всё больше?»
В последнее время Билл Гейтс, основатель Microsoft, предупреждает: ИИ сейчас уже обладает огромной мощью. И если такие возможности попадут в руки людей, которые действительно хотят причинить вред, последствия могут быть куда более масштабными, чем у предыдущих технологий.
Даже он упоминает один крайне мрачный сценарий: ИИ может способствовать возникновению события, в результате которого погибнут до 1 миллиарда человек. Но это не значит, что Билл Гейтс говорит: «ИИ убьёт 1 миллиард людей».
Эта цифра — лишь пример того, насколько велика потенциальная опасность, если очень мощный ИИ будет неправильно использоваться людьми со злым умыслом.
Поскольку чем более продвинутой становится технология, тем больше возможностей она может дать своим пользователям.
Проблема в том, что мы не можем предполагать, будто все люди будут применять эти возможности только во благо.
И, по словам Гейтса, передать всё на откуп технологическим компаниям, чтобы те сами следили за собой, тоже недостаточно.
Он считает необходимыми меры защиты (safeguards), мониторинг, а также участие правительства и правоохранительных органов — чтобы определить рамки и обеспечить безопасность ИИ.
Так что теперь вопрос уже не только в том: «Насколько умным можно сделать ИИ?» А в том: «Насколько безопасен этот ИИ, когда его возможности становятся всё больше?»
