Компании, занимающиеся ИИ, делают неожиданную вещь: приглашают религиозных лидеров и богословов вместе изучать, как научить ИИ отличать правильное от неправильного.
Согласно последнему сообщению Associated Press (AP), Anthropic уже провела встречи более чем с 15 религиозными и межкультурными группами, надеясь найти ответы на этические вопросы об ИИ в многовековых традициях человеческой мысли.
В мае этого года сооснователь Anthropic Кристофер Ола лично отправился в Ватикан, чтобы принять участие в мероприятии, посвящённом публикации энциклики Папы Льва XIV об искусственном интеллекте.
Он считает, что проблемы, связанные с ИИ, уже выходят за пределы компетенции специалистов по информатике, поэтому к их обсуждению должны подключиться религиозные общины, учёные и представители общества.
В ходе дискуссий Anthropic с религиоведами возникло немало неожиданных вопросов.
Например:
• Есть ли у человека душа?
• Следует ли разрешать ученикам третьих классов начальной школы пользоваться чат-ботами с ИИ?
• Как ИИ должен понимать мораль, добро и зло?
• Могут ли идеи разных религий помочь ИИ принимать более взвешенные решения?
Философ из Университета Нотр-Дам Меган Салливан, участвовавшая в дискуссиях, отметила, что Anthropic не просто выслушивает мнения: компания знакомит учёных с принципами работы моделей, а затем вместе с ними подробно обсуждает этические вопросы, связанные с технологиями.
Не только Anthropic: представители Meta, Google и Amazon также встречались с Ватиканом, а Microsoft активно налаживает контакты с религиозными общинами.
Однако такой подход вызвал и новые споры.
Некоторые учёные опасаются, что если компании, занимающиеся ИИ, просто объединят ценности разных религий в универсальный свод правил, это может стереть важные различия между религиозными традициями.
Эта ситуация показывает, что развитие ИИ вступает в новую фазу.
Раньше технологические компании главным образом заботились о том, как сделать модели мощнее и точнее.
Теперь им приходится сталкиваться и с гораздо более сложным вопросом:
когда ИИ начинает участвовать в принятии важных решений, затрагивающих жизнь людей, кто именно должен определять его ценности?
Согласно последнему сообщению Associated Press (AP), Anthropic уже провела встречи более чем с 15 религиозными и межкультурными группами, надеясь найти ответы на этические вопросы об ИИ в многовековых традициях человеческой мысли.
В мае этого года сооснователь Anthropic Кристофер Ола лично отправился в Ватикан, чтобы принять участие в мероприятии, посвящённом публикации энциклики Папы Льва XIV об искусственном интеллекте.
Он считает, что проблемы, связанные с ИИ, уже выходят за пределы компетенции специалистов по информатике, поэтому к их обсуждению должны подключиться религиозные общины, учёные и представители общества.
В ходе дискуссий Anthropic с религиоведами возникло немало неожиданных вопросов.
Например:
• Есть ли у человека душа?
• Следует ли разрешать ученикам третьих классов начальной школы пользоваться чат-ботами с ИИ?
• Как ИИ должен понимать мораль, добро и зло?
• Могут ли идеи разных религий помочь ИИ принимать более взвешенные решения?
Философ из Университета Нотр-Дам Меган Салливан, участвовавшая в дискуссиях, отметила, что Anthropic не просто выслушивает мнения: компания знакомит учёных с принципами работы моделей, а затем вместе с ними подробно обсуждает этические вопросы, связанные с технологиями.
Не только Anthropic: представители Meta, Google и Amazon также встречались с Ватиканом, а Microsoft активно налаживает контакты с религиозными общинами.
Однако такой подход вызвал и новые споры.
Некоторые учёные опасаются, что если компании, занимающиеся ИИ, просто объединят ценности разных религий в универсальный свод правил, это может стереть важные различия между религиозными традициями.
Эта ситуация показывает, что развитие ИИ вступает в новую фазу.
Раньше технологические компании главным образом заботились о том, как сделать модели мощнее и точнее.
Теперь им приходится сталкиваться и с гораздо более сложным вопросом:
когда ИИ начинает участвовать в принятии важных решений, затрагивающих жизнь людей, кто именно должен определять его ценности?
