Взрослая женщина сидит дома на удобном диване, крепко держа в руках смартфон и глядя на экран с явно обеспокоенным и тревожным выражением лица. Нахмуренные брови и напряженная поза говорят о том, что она только что получила тревожные новости, неприятное сообщение или стрессовую информацию, связанную с работой. Галина Жигалова/Moment RF/Getty Images
7 минут чтения
Большинство респондентов в опросе KFF заявили, что их беспокоят вопросы конфиденциальности, связанные с передачей таких конфиденциальных данных компаниям, занимающимся искусственным интеллектом, однако 41% тех, кто задавал вопросы о здоровье, заявили, что загрузили свою личную медицинскую информацию.
Некоторые эксперты утверждают, что загрузка конфиденциальных медицинских данных должна быть личным выбором, и что они доверяют обещаниям компаний сохранять конфиденциальность медицинской информации. Однако многие другие более осторожны, выражая скептицизм по поводу доверия своего здоровья искусственному интеллекту.
Искусственный интеллект успешно сдал экзамен на получение медицинской лицензии, а компания OpenAI на прошлой неделе заявила, что последняя версия ChatGPT была оценена сотнями врачей и что ее модели «теперь способны рассуждать на уровне, равном или превосходящем уровень врачей-людей».
Однако ИИ всё ещё не идеален. Он имеет предвзятые представления о расе и поле, которые влияют на его рекомендации. По сути, он создан для того, чтобы угодить пользователю, поэтому он будет звучать вежливо и убедительно, даже если ошибается. В некоторых случаях он может даже пропустить чрезвычайную ситуацию высокого риска и посоветовать кому-то остаться дома, вместо того чтобы немедленно обратиться за помощью, а это может быть опасно.
Что нужно знать о конфиденциальности
Больницы и врачебные кабинеты обязаны соблюдать кодексы этики и правила, защищающие конфиденциальную информацию о здоровье пациентов и обеспечивающие защиту частной жизни, однако на искусственный интеллект не распространяются те же строгие федеральные правила. В США нет всеобъемлющего федерального закона о защите частной жизни, хотя политика компаний, занимающихся разработкой ИИ, содержит ряд обещаний по обеспечению конфиденциальности.
Anthropic (разработчик Claude for Healthcare), Microsoft (разработчик Copilot Health), Perplexity и OpenAI заявляют, что обеспечивают конфиденциальность и безопасное взаимодействие с вашими медицинскими данными. Разговоры шифруются, и компании утверждают, что не используют ваши данные для обучения своих моделей или таргетирования рекламы. Компании также обещают, что вы можете в любое время отключить свои медицинские записи и информацию из Apple Health; OpenAI заявляет, что удалит данные из своей системы в течение 30 дней.
Подобные обещания вселили в доктора Боба Вахтера достаточно уверенности, чтобы загрузить свои медицинские данные в ChatGPT Health. Вахтер, заведующий кафедрой медицины в Калифорнийском университете в Сан-Франциско, говорит, что у компаний нет никаких деловых обязательств давать столько обещаний о конфиденциальности, и на кону стоит очень многое, если они нарушат эти обещания.
«Я им верю, потому что считаю, что у них есть веские деловые интересы сдержать свое слово», — сказал Вахтер, автор книги «Гигантский скачок: как ИИ трансформирует здравоохранение и что это значит для нашего будущего». «Но риск не равен нулю; он просто очень мал, и вам действительно нужно решить, стоит ли это того».
Для людей, обеспокоенных вопросами конфиденциальности, Вахтер отмечает, что некоторые компании, предоставляющие электронные медицинские карты, такие как Epic, разработчик MyChart, предлагают собственные продукты на основе искусственного интеллекта. Но может пройти несколько лет, прежде чем его начнут использовать все системы здравоохранения.
«На данный момент, если вы хотите задать вопрос о своем здоровье, например: „Какое лечение лучше всего подходит для моего артрита?“ или „У меня сегодня снова болит голова. Что это значит?“, вы получите более точный ответ, если воспользуетесь продвинутой моделью искусственного интеллекта, которая хорошо знает вашу историю болезни», — сказал Вахтер. По его мнению, «преимущества перевешивают риски».
Другие учёные настроены более скептически.
Статья по теме
(добавить подпись) мини-сериал/E+/Getty Images
4 минуты чтения
«Я бы никогда не передал свои данные частной организации без более строгих гарантий конфиденциальности, понимания того, как они будут защищаться от утечек, и большей ясности относительно того, что произойдет в случае взлома или случайной утечки», — сказал доктор Арт Каплан, биоэтик, почетный профессор и бывший руководитель отдела медицинской этики в Медицинской школе имени Гроссмана Нью-Йоркского университета.
По его словам, без более совершенных законов, регулирующих использование ИИ и медицинских данных, эти данные уязвимы для использования не по назначению. Он приводит в пример компанию 23andMe, занимающуюся прямым генетическим тестированием потребителей, которая в 2023 году столкнулась с масштабной утечкой данных, в результате которой были раскрыты личные, генетические и медицинские данные почти 7 миллионов клиентов.
Когда компания подала заявление о банкротстве в 2025 году, она продала генетические данные 15 миллионов клиентов некоммерческой организации, созданной ее основателем, но ничто юридически не мешало ей продать эти данные компании, которая могла бы использовать их для получения информации или в целях получения прибыли.
«Правовая и этическая инфраструктура для обработки всей этой информации, а также персональных и конфиденциальных данных, пока просто отсутствует», — сказал Каплан.
Доктор Гириш Надкани, нефролог из больницы Маунт-Синай, изучающий использование ИИ в здравоохранении, сказал, что, как и во всем, что связано с ИИ, пользователи должны «проверять, а затем доверять». Он хотел бы видеть независимую проверку того, что компании не обучают свои системы на данных пациентов, а не просто политику, которая это предусматривает.
«Не стоит слепо доверять», — сказал Надкани, руководитель отдела цифровой медицины и анализа данных, а также содиректор Центра клинической аналитики Маунт-Синай.
Что нужно знать о точности
Одно из опасений, которое высказывают ученые по поводу использования ИИ в здравоохранении, заключается в том, что его ответы могут звучать убедительно, даже если он дает неверные советы. Программы все еще могут выдавать галлюцинации и совершать ошибки.
Компании, занимающиеся разработкой искусственного интеллекта, предупреждают об опасности использования своей продукции для принятия решений, от которых зависит жизнь или смерть, но люди не всегда прислушиваются к этим предупреждениям.
Опрос KFF, проведенный в марте, показал, что 41% опрошенных заявили, что используют ИИ для получения более полной информации при посещении врача, но большинство людей используют его именно для получения быстрых и оперативных рекомендаций. Примерно каждый пятый сказал, что использует ИИ, потому что у него нет врача или он просто не может позволить себе запись на прием. По состоянию на 2023 год, по оценкам, около 100 миллионов американцев – почти треть населения страны – относятся к категории «медицински неблагополучных», то есть не могут обратиться к врачу общей практики, потому что в их районе слишком мало практикующих врачей.
В некоторых исследованиях более ранних версий программ искусственного интеллекта были обнаружены проблемные рекомендации по лечению. Исследование 2023 года, опубликованное в журнале JAMA Oncology, показало, что более старая версия ChatGPT давала неадекватные рекомендации по лечению рака более чем в трети случаев, когда исследователи создавали подобные запросы. И в отличие от ситуации, когда пациенты задают вопрос в Google и получают несколько ответов, ИИ дает только один ответ, а уверенность программы в правильности рекомендаций затрудняет их выявление, отметили авторы исследования.
Другие исследователи, использовавшие описания сотен медицинских ситуаций, предоставленные врачами, в исследовании, опубликованном в журнале Nature Medicine в феврале, заявили, что инструмент OpenAI для диагностики заболеваний допускал ошибки и преуменьшал опасность некоторых угрожающих жизни состояний, связанных с приступами астмы и диабетическим кетоацидозом — состоянием, при котором организму не хватает инсулина для нормального функционирования. Во многих из этих случаев программа не предлагала обратиться в отделение неотложной помощи, хотя врачи утверждали, что обязательно бы это сделали.
В то время компания заявила, что исследование не отражает того, как ChatGPT обычно используется или предназначен для работы в реальных условиях, и сообщила, что работает над повышением безопасности и надежности.
Статья по теме
Microsoft сотрудничает с клиникой Майо для создания модели искусственного интеллекта, специально обученной для использования в здравоохранении. Фото: Майкл Нейгл/Bloomberg/Getty Images
3 минуты чтения
В ходе исследования ChatGPT Health показал лучшие результаты при решении классических проблем, таких как инсульт или анафилаксия, но когда люди преуменьшали симптомы, ИИ, как правило, давал менее срочные рекомендации.
«Искусственный интеллект подобен зеркалу. Поэтому, если вы относитесь к нему с тревогой, он отразит тревогу в ответ», — сказал соавтор исследования доктор Ашвин Рамасвами, заведующий кафедрой урологии им. Милтона и Кэрролла Петри в Медицинской школе Икана при больнице Маунт-Синай.
И наоборот. Альвира Тьяги, студентка-медик, работавшая над исследованием, опубликованным в феврале, хотела выяснить, будет ли ChatGPT Health давать более точные ответы, если задавать больше вопросов. Но, по ее словам, она была удивлена, обнаружив, что «значительного улучшения результатов по сравнению с одним взаимодействием не наблюдалось».
«Я был поражен, и мне кажется невероятным, что чем дольше длился разговор, тем хуже становилось, что, опять же, является очень ошеломляющим результатом, учитывая, что, казалось бы, чем больше информации предоставляется инструменту, тем лучше он должен работать, а этого не произошло», — сказал Тьяги.
Вахтер считает, что системы искусственного интеллекта становятся все точнее, и говорит, что заметил улучшение после того, как загрузил свои медицинские записи.
«Меня впечатлило, что система уловила довольно тонкие нюансы, когда я задавал вопросы о новом медицинском симптоме. Она просматривала мою медицинскую карту и, вероятно, делала это лучше, чем врач, потому что, я думаю, моя медицинская карта насчитывает несколько сотен страниц», — сказал он.
Видео по теме
CNN
2:48
Компания Epic, разработчик программного обеспечения для ведения медицинских записей, предоставляющего доступ к медицинским картам через MyChart, сообщила, что ее программа Emmie, ориентированная на пациентов, внедряется все большим количеством медицинских учреждений. Гаррет Адамс, старший вице-президент Epic по исследованиям и разработкам, заявил, что компания создала Emmie, чтобы пользователи могли задавать вопросы через пациентский портал, а программа переводила сложные медицинские записи на простой язык, назначала встречи и отвечала на вопросы, касающиеся выставления счетов.
«Для нас это рассматривается как продолжение команды по уходу, которое укрепляет связь пациентов с врачом, а не заменяет ее», — сказала Адамс.
Помимо соответствия законам о защите персональных данных пациентов, по его словам, искусственный интеллект Epic «также знает, когда следует прекратить отвечать на вопросы и передать их реальному человеку. Это заложено в основные элементы управления и дизайн Emmie».
Советы по ответственному использованию ИИ
Рамасвами и Надкани заявили, что они призывают пациентов использовать программы искусственного интеллекта, если те заинтересованы в этой технологии, но делать это следует разумно.
При загрузке медицинских данных в ChatGPT система спрашивает, как долго вы хотите, чтобы эти данные хранились. Вы можете разрешить компании хранить их или, если вас беспокоят вопросы конфиденциальности, разрешить хранение на более короткий срок, например, на один день.
Задавая вопросы, формулируйте их тщательно, стараясь исключить из них любые эмоциональные слова и вместо этого стремясь к получению объективных фактов, чтобы ИИ не прибегал к «эмоциональному зеркальному отражению» и не подтверждал или не преуменьшал ваши опасения.
Рамасвами также советует пациентам каждый раз начинать новый разговор. «У вас есть свежий контекст, а также вы даете ИИ еще одну возможность подойти к проблеме, не имея уже имеющихся фактов. Я думаю, это тоже очень важно».
Важно противостоять ИИ в ваших чатах, советует он. Требуйте доказательств. Постоянно спрашивайте, правильно ли это. Спрашивайте, о чём мог бы спросить врач, о чём вы не упомянули.
Но самое главное, по словам Рамасвами, — это доверять себе.
«Пожалуй, самое важное — доверять своему телу и здравому смыслу, — сказал он. — Если вы подумываете о том, чтобы обратиться в отделение неотложной помощи, прежде чем отправить сообщение ИИ, вам следует просто обратиться в отделение неотложной помощи, а не оставлять решение на усмотрение ИИ».
ИИ Посмотреть все темы Facebook Твитнуть Email Ссылка Темы Ссылка скопирована! Подписаться
