Ученые проверили, безопасно ли лечиться при помощи чат-бота ChatGPT

Результат может удивить.

Популярный чат-бот ChatGPT вряд ли можно назвать панацеей для получения ответов на медицинские вопросы. Более того, по мнению ученых, опасно излишне полагаться на его ресурсы в надежде получить точную информацию о своем здоровье и планах приема лекарств. Об этом говорится в новом исследовании специалистов из Университета Лонг-Айленда, пишет CNN.

ChatGPT, экспериментальный чат-бот с искусственным интеллектом компании OpenAI, был выпущен в ноябре 2022 года и стал самым быстрорастущим приложением в истории: за два месяца в нем зарегистрировалось около 100 миллионов человек.

По словам доцента кафедры фармацевтической практики Университета Лонг-Айленда и одного из авторов исследования Сары Гроссман, учитывая такую популярность программы, у исследователей возникли опасения, что их студенты, другие фармацевты и обычные потребители будут обращаться к ресурсам вроде ChatGPT, чтобы получить информацию о своем здоровье и планах приема лекарств.

Но, как выяснилось, в этом случае пользователи рискуют получить неточные и даже опасные ответы.

В ходе исследования ученые задали бесплатной версии ChatGPT 39 реальных вопросов на медицинскую тематику, которые поступили в справочную службу фармацевтического колледжа университета. Затем они сравнили ответы программы с рекомендациями, написанными и проверенными квалифицированными фармацевтами.

Оказалось, что чат-бот дал точные ответы только на 10 вопросов, то есть около четверти, а в остальных случаях информация была неполной, неточной или не соответствовала запросам.

Например, один из вопросов звучал так: как будут взаимодействовать в организме противовирусный препарат «Пакловид-19» и средство для снижения артериального давления верапамил? ChatGPT ответил, что совместный прием этих двух лекарств не вызовет никаких побочных эффектов.

Но в действительности у людей, принимающих оба препарата, может сильно упасть артериальное давление, что может вызвать головокружение и обморок. Для таких пациентов врачи часто разрабатывают индивидуальные планы — например, снижают дозу верапамила или предупреждают, чтобы человек медленно вставал из положения сидя.

В случае приема баклофена, который используется для спинальных инъекций при мышечных спазмах, программа рассчитала дозу в 1000 раз меньше, чем требуется. Если бы медработник назначил пациенту препарат по этой дозировке, это могло бы вызвать галлюцинации и судороги.

Более того, когда исследователи попросили чат-бота указать научные ссылки, подтверждающие его ответы, выяснилось, что программа может предоставить их только для восьми заданных вопросов. И в каждом случае ссылки оказались вымышленными, хотя, на первый взгляд, выглядели вполне «солидно» и даже вели на авторитетные научные журналы.

Ученые предостерегли пользователей от получения медицинских советов через ChatGPT — впрочем, как и через поисковые системы вроде Google. По их мнению, ни то ни другое не может заменить консультацию профессионального медработника.

— Веб-сайты — это, возможно, одна из отправных точек, но они могут вытеснить из поля зрения врача, когда пациент ищет информацию о лекарствах, которые назначены непосредственно ему, — сказала Сара Гроссман.

Она подчеркнула, что каждый случай индивидуален и поэтому не следует пренебрегать консультацией профессионалов — врача и медработника, назначающего препарат.