Использование чат-ботов с искусственным интеллектом для медицинских консультаций становится массовым трендом, однако эксперты предупреждают о серьезных рисках для здоровья. Несмотря на высокую точность алгоритмов в лабораторных условиях, при реальном общении с пациентами системы ИИ допускают ошибки в двух третях случаев, сообщает BBC.
Привлекательность медицинских советов от ИИ очевидна: нейросети доступны круглосуточно и имитируют персонализированный диалог, что кажется более удобным, чем самостоятельный поиск в интернете. Многие пользователи, такие как героиня материала Аби из Манчестера, отмечают, что боты помогают справиться с тревожностью и дают быстрые рекомендации при незначительных недомоганиях. Однако практика показывает, что «цифровой врач» может быть чрезмерно самоуверенным в своих заблуждениях.
Исследование Оксфордского университета выявило критический разрыв между потенциалом ИИ и реальностью. Когда врачи предоставляли боту полные и четкие сценарии болезней, точность ответов достигала 95%. Но в экспериментальных диалогах с обычными людьми этот показатель падал до 35%. Основная проблема заключается в том, что пациенты делятся информацией постепенно, умалчивают о важных деталях или отвлекаются, что сбивает алгоритмы с толку и приводит к неверным диагнозам в 65% случаев.
«Ответы нейросетей зачастую недостаточно хороши. Они одновременно самоуверенны и неверны», — заявил главный врач Англии профессор сэр Крис Уитти. Эксперты подчеркивают, что в отличие от поиска в Google, где пользователь видит источник информации и может оценить его надежность, чат-бот выдает готовый, авторитетно сформулированный ответ, который вызывает ложное чувство доверия.
Дополнительную опасность представляет склонность ИИ к распространению дезинформации под влиянием манипулятивных вопросов. Так, в ходе тестов некоторые боты рекомендовали натуропатию и гомеопатию как эффективные методы лечения рака. Разработчики из OpenAI и других компаний подчеркивают, что их модели предназначены исключительно для образовательных целей и не должны заменять профессиональную медицинскую помощь. Специалисты советуют относиться к советам ИИ с высокой долей скептицизма и всегда перепроверять критически важные данные у квалифицированных врачей.
Источник: BBC
#ИИ #Медицина #ChatGPT #Здоровье #Технологии