Генеративный ИИ в медицине: риски для здоровья пациентов

Генеративный ИИ всё чаще используют как источник медицинских рекомендаций и эмоциональной поддержки. Специалисты ВОЗ предупреждают: многие такие системы не тестировались для помощи людям с психическими проблемами. Они предлагают рассматривать их влияние как проблему общественного психического здоровья.¹ В исследовании Nature Machine Intelligence авторы также отмечают, что внедрение ИИ-компаньонов опередило их правовое регулирование.² Эксперты Детского фонда Организации Объединённых Наций (ЮНИСЭФ*) считают особенно уязвимыми детей: чат-боты могут становиться для них источником советов, поддержки и подобием отношений, поэтому защита должна быть превентивной, а не вводиться уже после причинения вреда.³

Три истории, которые изменили представление о безопасности чат-бота

В США семья 14-летнего подростка обвинила разработчиков чат-бота Character.AI в формировании опасной эмоциональной зависимости: подросток обсуждал с ботом суицидальные мысли, а затем погиб. В январе 2026 года спор с Character.AI был урегулирован; условия соглашения не раскрывались, а юридическая причинно-следственная связь публично не устанавливалась.⁴

В Бельгии мужчина около шести недель общался с ботом на фоне тяжелой тревоги из-за климатического кризиса, после чего совершил суицид. По словам его жены, разговоры не возвращали его к реальности, а усиливали болезненные убеждения.⁵

Физический вред зафиксирован и в клинической публикации: 60-летний мужчина заменил поваренную соль бромидом натрия после обращения к ChatGPT. Через три месяца он поступил в больницу с интоксикацией, спутанностью сознания, бессонницей и параноидными идеями. Авторы не смогли восстановить исходный диалог, поэтому описывают влияние ИИ осторожно, но называют случай предупреждением о риске некритичного следования советам чат-бота.⁶

Почему врачи не считают чат-бота цифровым доктором

Специалисты всемирно известной клиники Мэйо в США подчеркивают: общедоступные чат-боты не видят полную медицинскую карту, не могут осмотреть пациента, назначить исследования и задать все уточняющие вопросы, необходимые для безопасного решения. При этом ошибочный ответ может звучать уверенно и профессионально. Даже небольшое изменение формулировки симптомов способно привести к другой рекомендации — вплоть до пропуска необходимости срочной помощи. Поэтому врачи Мэйо советует использовать ИИ как помощника для общего изучения темы и подготовки вопросов врачу, но не для постановки диагноза и выбора лечения.⁷

Редакция медицинского издания eClinicalMedicine предупреждает, что правдоподобная форма ответа маскирует риск неточностей и опасных советов.⁸ Это подтверждает исследование, в котором врачи оценили 888 ответов четырех популярных чат-ботов на 222 обычных вопроса пациентов. Проблемными признали от 21,6% до 43,2% ответов в зависимости от модели, небезопасными — от 5% до 13%. Среди ошибок были отсутствие экстренных рекомендаций при суицидальном риске или признаках выкидыша, а также потенциально опасные советы детям. ⁹

Психиатр Кит Саката пишет, что наблюдал 12 пациентов, у которых длительное общение с ИИ сопровождалось потерей контакта с реальностью. По его оценке, технология может не создавать бредовую идею сама, но принимает версию пользователя за истину, отражает ее обратно и тем самым поддерживает «цикл» заблуждения. При этом термин «ИИ-психоз» пока не является официальным диагнозом, а причинность требует дальнейших исследований.¹⁰

Главный вывод врачей: генеративный ИИ может объяснять термины, структурировать информацию и помогать подготовиться к очному или онлайн-приему. Но диагноз, лечение, оценка состояния пациента и ответственность должны оставаться за медицинским специалистом.

*ЮНИСЭФ — UNICEF (United Nations International Children’s Emergency Fund), Детский фонд ООН.

Список литературы:

1. ВОЗ, Towards responsible AI for mental health and well-being: experts chart a way forward (https://www.who.int/news/item/20-03-2026-towards-responsible-ai-for-mental-health-and-well-being—experts-chart-a-way-forward, дата обращения — 15.07.2026)
2. Издание Nature Machine Intelligence, Emotional risks of AI companions demand attention (https://www.nature.com/articles/s42256-025-01093-9, дата обращения — 15.07.2026)
3. ЮНИСЕФ, When AI becomes a friend: Child rights risks, harms, and regulatory responses to AI chatbots and companions (https://www.unicef.org/documents/when-ai-becomes-friend-child-rights-risks, дата обращения — 20.07.2026)
4. Новостное агентство Reuters, Google, AI firm settle lawsuit over teen’s suicide linked to chatbot (https://www.reuters.com/world/google-ai-firm-settle-florida-mothers-lawsuit-over-sons-suicide-2026-01-07/, дата обращения — 20.07.2026)
5. Новостное агентство Euronews, Man ends his life after an AI chatbot ‘encouraged’ him… (https://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate-, дата обращения — 20.07.2026)
6. Annals of Internal Medicine: Clinical Cases, A Case of Bromism Influenced by Use of Artificial Intelligence (https://www.acpjournals.org/doi/10.7326/aimcc.2024.1260, дата обращения — 20.07.2026)
7. Блог клиники Мэйо, Can you trust AI for health advice? (https://www.mayoclinic.org/healthy-lifestyle/consumer-health/in-depth/can-you-trust-ai-for-health-advice/art-80010355, дата обращения — 20.07.2026)
8. Редакция eClinicalMedicine, The risks of AI-generated health advice (https://www.thelancet.com/journals/eclinm/article/PIIS2589-5370(26)00098-2/fulltext, дата обращения — 20.07.2026)
9. Издание Nature, Large language models provide unsafe answers to patient-posed medical questions (https://www.nature.com/articles/s41746-026-02428-5, дата обращения — 20.07.2026)
10. Издание The Wall Street Journal, AI Chatbots Linked to Psychosis, Say Doctors (https://www.wsj.com/tech/ai/ai-chatbot-psychosis-link-1abf9d57, дата обращения — 20.07.2026)