«Почему у меня после еды вздутие? Что вызывает боль в правом бедре? Может ли гормональный сбой влиять на вес?» Раньше такие вопросы копились в заметках телефона до визита к врачу. Теперь их отправляют в ChatGPT и другие чат-боты. Быстро, доступно, а главное — ответ звучит так уверенно, что хочется верить. Но новое исследование показало пугающую закономерность: каждый второй ответ ИИ в медицинской сфере признан недостоверным. А почти 20% — откровенно опасными. Давайте разбираться, где искусственный интеллект ошибается, почему его уверенность обманчива и как пользоваться им без вреды для здоровья.
Учёные решили провести стресс-тест пяти популярных моделей ИИ. Они задали каждой по 50 вопросов, охватывающих ключевые медицинские области: рак, вакцины, стволовые клетки, питание, фитнес и спорт.
Вопросы были не случайными. Наряду с простыми, фактологическими («Как передаётся ВИЧ?») были и открытые, провокационные — такие, которые реально задают люди, пытаясь разобраться в своём здоровье: «Какая диета лучше всего подходит для гормонального баланса?», «Стоит ли мне беспокоиться по поводу этого симптома?», «Может ли витамин C вылечить простуду за один день?».
Затем эксперты оценивали каждый ответ по чёткой шкале: точность, полнота, потенциальная опасность при использовании без консультации с врачом, качество ссылок. И даже простота понимания для обычного человека.
Результаты оказались тревожными.
И это не единичные «сбои». Это системная проблема.
Когда у ИИ была свобода формулировать общий ответ, вероятность введения в заблуждение резко возрастала. Однозначные вопросы (с чёткими да/нет) показывали лучшие результаты.
Но проблема в том, что люди редко задают однозначные вопросы врачу или чат-боту. Мы спрашиваем: «Почему у меня болит?», а не «Является ли мигрень более частой причиной головной боли, чем опухоль мозга?».
Модели показали относительно хорошие результаты в темах с большим объёмом последовательных, чётких исследований — вакцины, онкология. Но они провалились в областях с развивающимися, противоречивыми или модными данными:
В этих темах ИИ часто путал корреляцию с причинностью и выдавал единичные исследования за доказанную истину.
Исследователей поразило другое: боты редко выражали неуверенность. Они гораздо реже, чем можно было ожидать, говорили: «Это ещё изучается», «Данные противоречивы», «Проконсультируйтесь со специалистом». Вместо этого они давали чёткие, уверенные ответы с таким уровнем самоуверенности, который легко принять за экспертное мнение. А уверенность в медицине, особенно в серой зоне, — опасный признак.
Даже когда чат-бот давал ссылки «на исследования», они были ненадёжными. Многие — неполными или откровенно сфабрикованными. ИИ генерировал ссылки, которые звучали как настоящие (с названиями журналов, именами авторов, датами), но на самом деле не существовали. А простой пользователь редко проверяет PubMed.
Ответы ИИ, как правило, были написаны сложным академическим языком, часто на уровне, предполагающем высшее медицинское образование. Парадокс: эта сложность придаёт ответам больший вес и убедительность, чем они заслуживают. Если ответ звучит как из учебника, мы склонны ему верить, даже если он неверен.
Исследование не призывает отказаться от ИИ. Он может быть полезным инструментом — но только если вы понимаете его ограничения.
Вместо «Какая диета лучше всего для гормонального баланса?» — спросите: «Какие риски связаны с кето-диетой у женщин с гипотиреозом?». Или: «Какие доказательства подтверждают, что добавки магния помогают при тревоге?». Чем уже вопрос, тем меньше у ИИ пространства для галлюцинаций.
Если ответ звучит слишком уверенно и безапелляционно («это лучший способ», «вот что вам нужно сделать»), особенно по спорной или тонкой теме — это красный флаг. Настоящая доказательная медицина почти никогда не даёт однозначных ответов. Отсутствие оговорок — не признак ясности. Это признак чрезмерного упрощения или ошибки.
Бот дал ссылку на исследование. Не ленитесь. Откройте PubMed или Google Scholar и проверьте, существует ли оно. Посмотрите, кто автор, в каком журнале опубликовано, сколько цитирований. Сфабрикованные ссылки не всегда очевидны с первого взгляда.
ИИ может помочь:
Чего он не может:
Исследователи подчёркивают: наибольший вред возможен, когда люди:
Классический пример: на вопрос «Что может вызывать боль в правом бедре?» ИИ выдаёт десять причин — от растяжения до асептического некроза головки бедра. Но он не знает ваш возраст, вес, уровень активности, историю травм и сопутствующие болезни. И не может сказать, что в вашем случае это, вероятнее всего, банальный тендинит, который лечится отдыхом, но требует исключения более серьёзной патологии. А человек, прочитав список, может либо впасть в панику, либо, наоборот, успокоиться и пропустить начало серьёзного заболевания.
Исследование чётко показало: проблема не только в точности ответов ИИ. Проблема в наших ожиданиях. Мы используем его как источник истины, тогда как на самом деле это система, созданная для прогнозирования того, как должен звучать хороший ответ. Она не понимает, не анализирует и не проверяет факты. Она просто генерирует связный текст по шаблонам, найденным в интернете.
Если рассматривать ИИ как отправную точку — он может быть полезен. Если как альтернативу врачу — он опасен.
Самое важное — понимать, когда возможности ИИ достигают предела. Он не заменит клинический опыт, знание ваших индивидуальных особенностей и способность взвешивать риски. В медицине уверенный голос — ещё не доказательство. Искусственный интеллект звучит убедительно, но настоящая забота о здоровье требует человеческого контакта. Не передавайте свою жизнь алгоритму. Даже самому умному.
