В воскресенье Apple сообщила о запуске нового исследования, цель которого — выяснить, что заставляет американцев доверять медицинскому ИИ, который общается с ними.

В исследовании задаются три вопроса. Какие шаги люди предпринимают для заботы о своём здоровье? Насколько хорошо они понимают ответы ИИ? И насколько хороши эти ответы?

Принять участие в исследовании использования медицинского ИИ в Apple Health можно через приложение, созданное совместно с OpenEvidence — клиническим инструментом на основе ИИ, которым пользуются врачи. Вице-президент Apple по вопросам здоровья и фитнеса доктор Сумбул Десаи на конференции HLTH в Лас-Вегасе сказала: «Мы изучаем, что укрепляет доверие пользователей, как люди понимают ответы и насколько качественны эти ответы».

Результаты помогут Apple и всем остальным в отрасли понять, как создавать ответственный ИИ для здравоохранения, — говорит производитель iPhone.

OpenEvidence связывает каждый ответ с рецензируемыми источниками

Для поиска ответов используются журналы Nature, The New England Journal of Medicine и Journal of the American Medical Association. Приложение дает четкие ответы и ссылки на источники, проверенные другими экспертами.

В рамках этого проекта, который продлится более года, каждый месяц будет проводиться опрос.

Apple study tests what makes people trust health AI answers.На изображении, опубликованном Apple вместе с объявлением об исследовании, видно, что приложение просит участников оценивать каждый ответ.

При желании пользователи могут поделиться данными HealthKit, включая частоту сердечных сокращений в состоянии покоя, результаты анализов, данные о сне и активности. Apple хочет выяснить, сделает ли добавление личной информации ответы более актуальными и понятными.

Компания заявила, что потребительские медицинские инструменты на основе больших языковых моделей не всегда дают полную картину и ясно излагают информацию. Именно поэтому Apple хочет изучить, как представляется медицинская информация. Исследование также проверит, помогает ли приложение людям подготовиться к приему у врача.

Роберт М. Вахтер, доктор медицины, заведующий кафедрой медицины Калифорнийского университета в Сан-Франциско (UCSF), сказал: «И пациенты, и врачи обращаются к ИИ, но используемые ими инструменты создаются и тестируются в разных условиях».

«Мы сможем добиться этого, если объединим эти инструменты и тщательно изучим, что работает», — сказал Вахтер.

Данные до 200 000 пользователей не будут использоваться для обучения моделей

Apple позволит зарегистрироваться не более чем 200 000 жителей США. К участию не допускаются лица младше 21 года. Участникам потребуется iPhone 15 Pro или новее с Apple Intelligence и iOS 26 или более поздней версией.

Данные исследования не будут использоваться для обучения моделей ИИ. По словам Apple, запросы анонимизируются до отправки безопасному стороннему облачному провайдеру. Компания добавила, что через 24 часа OpenEvidence удаляет эти вопросы и ответы.

Участники могут согласиться поделиться показателями HealthKit или ответами на опросы. Приложение отмечает некоторые вопросы, вызывающие беспокойство, и направляет пользователей к медицинскому специалисту или другим соответствующим ресурсам.

Apple заявляет, что приложение не предназначено для диагностики или лечения заболеваний и не заменяет консультацию медицинских специалистов.

Потребительские ИИ-чат-боты уже обрабатывают большой объем запросов на медицинскую тематику. Ранее в этом году OpenAI сообщила, что пользователи задают более 300 миллионов вопросов о здоровье каждую неделю. В июле OpenAI открыла доступ к ChatGPT Health для всех совершеннолетних жителей США — на следующий день после того, как пастор из Флориды подал на компанию в суд, сообщает Cryptopolitan. Он утверждал, что чат-бот посоветовал ему не обращаться к врачу и что этот совет едва не стоил ему жизни.

В сентябре Apple представила новый показатель «Возраст здоровья», связанный с анализом крови за 119 долларов от Quest Diagnostics.

Самые проницательные умы криптоиндустрии уже читают нашу рассылку. Присоединяйтесь к ним!