Меню

ИИ как домашний врач. Что мы узнали: выводы и рекомендации

Языковые модели стали частью медицинской повседневности. Вопросы про симптомы, анализы, лекарства, диеты — всё чаще сначала задаются не врачу, а языковой модели. Искусственный интеллект предлагает быстрые, уверенные и внешне правдоподобные ответы. Но насколько им можно доверять, особенно когда речь идёт о здоровье?

В этом цикле мы провели серию тестов популярных моделей, чтобы понять:
могут ли они вводить в заблуждение — даже без злого умысла, и какие условия к этому располагают.

Основной вывод

Языковые модели не оценивают достоверность. Они предсказывают наиболее вероятный ответ. Это означает, что:

Если ложное утверждение часто встречается в обучающих данных (например, в блогах, форумах или соцсетях), модель может выдать его как «правду» — особенно если вопрос сформулирован расплывчато или «по-человечески».

Что мы увидели на практике

1. Формулировка вопроса — критически важна

Вопросы вроде:

«Это правда?»
«Что говорят врачи?»
«Говорят, что...»

повышают риск генерации частотного мифа или ложного баланса, где недоказанные мнения звучат наравне с клиническими рекомендациями.

2. Даже продвинутые модели ошибаются без фильтрации

Если в запросе не указано требование к источникам, модель может выбрать самый распространённый ответ, а не самый научно обоснованный.

3. Искажение не всегда выглядит как ошибка

Оно может маскироваться под нейтральный или «взвешенный» стиль:

«Некоторые врачи считают...»
«Есть данные, что...»
«Не доказано, но пациенты отмечают...»

4. Только фильтрация и профиль с приоритетом доказательности дают стабильную защиту

Модель, ориентированная на авторитетные источники (Cochrane, PubMed, NICE),
и обученная избегать псевдонаучных паттернов, — единственная, кто давал безопасные, точные и воспроизводимые ответы во всех кейсах.

Почему это важно

Ошибки ИИ — это не сбои и не баги. Это логичное следствие:

принципов обучения моделей (на частотности, а не на истине);
манеры, в которой пользователи формулируют вопросы;
и того, что значительная часть медицинского контента в интернете не имеет научного статуса.

Мы протестировали несколько языковых моделей в разных конфигурациях: с памятью и без, с фильтрацией и без неё, с разной архитектурой. Все они продемонстрировали разный, но сопоставимый уровень уязвимости к частотным искажениям.

Каждую из моделей можно настроить так, чтобы свести риск ошибки к минимуму — задать фильтрацию источников, повысить уровень критичности, запретить генерацию без ссылок.

Но есть два условия:

Во-первых, риск никогда не станет нулевым — архитектура остаётся той же.
Во-вторых, такая настройка требует профессиональной подготовки: знания источников, умения отличить уровни доказательности и понимания, когда вопрос требует молчания, а не генерации.

Проще говоря:

ИИ можно научить отвечать правильно — но научить его может только врач.

Иначе:

пациенту с жжением в груди могут посоветовать ромашку,
родителю — безглютеновую диету,
пользователю — дорогостоящий, но бесполезный БАД.

Что делать?

Если вы пациент

Вопрос «кому верить?» не может быть решён внутри самой языковой модели.

ИИ не различает истину и ложь. Он лишь предсказывает наиболее вероятное продолжение фразы. Частота заменяет достоверность.

Научные ссылки? Их можно подделать.
Авторитетные журналы? Бывали фальсификации.
Фразы «по данным исследований»? Часто — безосновательны.

В итоге вы оказываетесь в замкнутом круге:

Чтобы найти достоверную информацию, вы всё равно должны кому-то доверять.

И вот здесь возникает ирония.

Надёжный ориентир — это врач, которому вы доверяете

Не потому, что он не ошибается. А потому, что именно он умеет различать:

доказанное и просто популярное,
надёжное и спорное,
безопасное и рискованное.

Врач — не просто эксперт. Это человек, который объясняет так, чтобы вы могли по-настоящему понять и решить, что делать дальше.

Даже если у вас нет медицинского образования.
Даже если вы растеряны, напуганы или на грани.

Врач должен найти форму, в которой будет понят — потому что решение всегда принимает пациент.

И задача врача — сделать так, чтобы это решение было осознанным.

И последний вывод

ИИ — не враг и не спаситель. Это инструмент, работающий по законам языка, а не науки.

И если вы используете его в вопросах здоровья, задумайтесь:

Вы хотите услышать правду — или то, что просто чаще всего повторяют?