Дом
Исследование выявило проблемы, связанные с получением надежных медицинских рекомендаций от чат-ботов
В то время как системы здравоохранения борются с длительным ожиданием и растущими расходами, все большее число пациентов экспериментируют с чат-ботами с искусственным интеллектом, такими как ChatGPT, для получения предварительной медицинской консультации. Согласно последним данным, около 17 % взрослых жителей США ежемесячно обращаются к этим инструментам за медицинской информацией. Однако новое исследование показывает, что эта новая практика сопряжена со значительными рисками, особенно когда пользователи не предоставляют адекватного контекста или неправильно интерпретируют ответы ИИ.
Исследование, проведенное под руководством Оксфорда, выявило критические ограничения в том, насколько эффективно люди используют разговорный ИИ для медицинской самооценки. Исследовательская группа работала с 1 300 британскими участниками, представляя им разработанные врачами медицинские сценарии. Участники пытались поставить диагноз, используя либо ИИ-помощников, либо традиционные методы, такие как поиск в Интернете, и получили неутешительные результаты на разных платформах ИИ.
"Мы наблюдали фундаментальный разрыв связи в обоих направлениях", - пояснил Адам Махди, соавтор исследования из Оксфордского института интернета. "Пользователи ИИ продемонстрировали не лучшие способности к принятию решений, чем те, кто использовал традиционные подходы, а в некоторых случаях даже хуже".
В ходе исследования были протестированы три ведущие модели ИИ: GPT-4o от OpenAI (на базе которой работает ChatGPT), Command R+ от Cohere и Llama 3 от Meta. Результаты выявили две тревожные закономерности:
- Участники, использовавшие инструменты ИИ, были менее успешны в определении соответствующих состояний здоровья
- Взаимодействие с ИИ приводило к опасной недооценке тяжести состояния.
Махди отметил значительные проблемы с качеством ввода и интерпретацией результатов: "Пользователи часто упускали важные медицинские детали при формулировании запросов, в то время как ответы ИИ часто смешивали точные советы с проблематичными предложениями". Такое сочетание создавало особенно опасные сценарии, в которых пользователи могли принимать неправильные решения в области здравоохранения.
Промышленность против медицинских реалий
Эти выводы появились на фоне того, что крупные технологические компании активно разрабатывают приложения ИИ, ориентированные на здоровье:
- Apple, как сообщается, создает велнес-советника для рекомендаций по физическим упражнениям и сну.
- Amazon анализирует медицинские карты на предмет социальных показателей здоровья
- Microsoft разрабатывает системы искусственного интеллекта для определения приоритетов в общении с пациентами.
Однако медицинское сообщество по-прежнему с осторожностью относится к внедрению этих технологий в клинических условиях. Американская медицинская ассоциация прямо предостерегает врачей от использования потребительских чат-ботов для поддержки принятия решений, и это предупреждение повторяют сами разработчики ИИ. Политика использования Open AI специально запрещает использовать свои модели в диагностических целях.
"Мы настоятельно рекомендуем людям обращаться к проверенным медицинским источникам, а не к результатам работы чат-ботов для принятия решений в области здравоохранения", - подчеркнул Махди. "Перед широким внедрением эти системы нуждаются в тщательном тестировании в реальных условиях, сравнимом с фармацевтическими испытаниями".
Заключение
Хотя чат-боты с искусственным интеллектом предлагают интригующие возможности для повышения доступности здравоохранения, данное исследование выявляет существенные риски в текущих реализациях. По мере развития технологии разработчики должны устранить критические пробелы в надежности, а пользователи должны подходить к медицинским советам ИИ с соответствующим скептицизмом.
Связанная статья
Рост ИИ сдерживается отсутствием доверия со стороны общества
В то время как политики подчеркивают потенциал ИИ для роста и повышения эффективности, в недавнем отчете говорится о значительном дефиците доверия среди населения. Широко распространенный скептицизм с
Duolingo заменяет подрядчиков искусственным интеллектом в рамках стратегической перестройки
Duolingo проводит реструктуризацию отдельных команд в рамках перехода к организации, ориентированной на искусственный интеллект (ИИ), как сообщается во внутренней памятке генерального директора и соучредителя Луиса фон Ана, которая позже была опублик
Исследование Массачусетского технологического института показало, что искусственный интеллект снижает активность человеческого мозга
Исследование, проведенное Массачусетским технологическим институтом (MIT), показало, что использование большой языковой модели (LLM) не только снижает умственные усилия в данный момент, но и оказывает
Рекомендации по связанным специальным темам
Дизайн и искусство
Инструменты искусственного интеллекта для создания визуальных стилей, предназначенные для создания характеристик персонажей, мудбордов и презентаций
2026: лучшие современные инструменты на базе ИИ для создания визуальных стилей персонажей, мудбордов и презентаций — уже доступны на XIX.AI! В этом тщательно подобранном списке самых высокооцененных инструментов представлены мощные решения, способные кардинально изменить ваш подход к работе и прошедшие строгие тесты в реальных условиях. Здесь вы найдёте сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы повысить творческий потенциал и оптимизировать рабочий процесс. Ознакомьтесь с ним прямо сейчас, чтобы найти идеальный инструмент для повышения продуктивности!
11 инструментов
xix.ai
SEO
Лучшие инструменты для анализа результатов поиска с помощью ИИ при разработке поисковой стратегии
XIX.AI подготовила подборку лучших и наиболее высокооцененных инструментов для анализа результатов поиска с помощью ИИ (2026 г.) на основе тщательных тестов в реальных условиях и еженедельно обновляемого рейтинга. Эти мощные инструменты помогут вам раскрыть скрытые возможности оптимизации, повысить эффективность контента и получить конкурентное преимущество в поиске. Найдите свой идеальный инструмент, чтобы уже сегодня усовершенствовать свою поисковую стратегию. Ознакомьтесь с ними прямо сейчас!
13 инструментов
xix.ai
Анализ данных
Лучшие инструменты ИИ для обнаружения аномалий при мониторинге KPI в командах SaaS и электронной коммерции
2026 г. Лучшие новейшие высокооцененные инструменты ИИ для обнаружения аномалий в мониторинге KPI для команд SaaS и электронной коммерции! XIX.AI подготовила мощную, меняющую правила игры коллекцию на основе строгих реальных тестов и еженедельно обновляемых рейтингов. Вы найдете подробные сравнительные данные по бесплатным и платным решениям, которые помогут вам определить обязательное к использованию решение, повышающее производительность и раскрывающее ваш потенциал в области ИИ. Исследуйте сейчас!
10 инструментов
xix.ai
письмо
Лучшие генераторы конспектов на базе ИИ для длинных статей, оптимизированных для SEO
2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.
8 инструментов
xix.ai
Образование и обучение
Инструменты на базе искусственного интеллекта для выполнения домашних заданий и подготовки к экзаменам
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
Музыкальная композиция
Инструменты для создания вокальных демо на основе ИИ для авторов песен, создания хуков, написания тоpline-мелодий и проведения многоязычных черновых сессий
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
Комментарии (3)
![PaulHill]()
Wait, 17% of adults already use chatbots for medical advice? That's terrifying. I can barely trust WebMD without spiraling into hypochondria. 😅 Has anyone actually gotten a correct diagnosis from ChatGPT? I'd rather wait for my doctor than risk a hallucination about my symptoms.
![DanielAllen]()
Die 17% Nutzerquote ist krass, aber logisch - bei monatelangen Wartezeiten bei nem Facharzt frag ich auch erstmal ChatGPT. Der Artikel bringt es gut auf den Punkt: 'Daten sind ein Problem'. Wenn mein Chatbot mit veralteten Studien oder irreführenden, kommerziellen Gesundheits-Blogs trainiert wurde, ist der Ratschlag mehr als nur 'unzuverlässig', das wird potenziell gefährlich. 🧐 Ich hoffe, die Regulierungsbehörden schlafen da nicht ein.
![WillieClark]()
看完这篇标题为“Study Reveals Challenges in Obtaining Reliable Health Advice From Chatbots”的研究简介感觉有点担忧，17%的人用ChatGPT询问健康建议其实挺普遍的。但AI毕竟不是医生，给出的信息准不准确、会不会耽误病情都是问题，得小心谨慎啊😂。希望未来能有更可靠的医疗AI，但现在还是去正规医院更靠谱。
В то время как системы здравоохранения борются с длительным ожиданием и растущими расходами, все большее число пациентов экспериментируют с чат-ботами с искусственным интеллектом, такими как ChatGPT, для получения предварительной медицинской консультации. Согласно последним данным, около 17 % взрослых жителей США ежемесячно обращаются к этим инструментам за медицинской информацией. Однако новое исследование показывает, что эта новая практика сопряжена со значительными рисками, особенно когда пользователи не предоставляют адекватного контекста или неправильно интерпретируют ответы ИИ.
Исследование, проведенное под руководством Оксфорда, выявило критические ограничения в том, насколько эффективно люди используют разговорный ИИ для медицинской самооценки. Исследовательская группа работала с 1 300 британскими участниками, представляя им разработанные врачами медицинские сценарии. Участники пытались поставить диагноз, используя либо ИИ-помощников, либо традиционные методы, такие как поиск в Интернете, и получили неутешительные результаты на разных платформах ИИ.
"Мы наблюдали фундаментальный разрыв связи в обоих направлениях", - пояснил Адам Махди, соавтор исследования из Оксфордского института интернета. "Пользователи ИИ продемонстрировали не лучшие способности к принятию решений, чем те, кто использовал традиционные подходы, а в некоторых случаях даже хуже".
В ходе исследования были протестированы три ведущие модели ИИ: GPT-4o от OpenAI (на базе которой работает ChatGPT), Command R+ от Cohere и Llama 3 от Meta. Результаты выявили две тревожные закономерности:
- Участники, использовавшие инструменты ИИ, были менее успешны в определении соответствующих состояний здоровья
- Взаимодействие с ИИ приводило к опасной недооценке тяжести состояния.
Махди отметил значительные проблемы с качеством ввода и интерпретацией результатов: "Пользователи часто упускали важные медицинские детали при формулировании запросов, в то время как ответы ИИ часто смешивали точные советы с проблематичными предложениями". Такое сочетание создавало особенно опасные сценарии, в которых пользователи могли принимать неправильные решения в области здравоохранения.
Промышленность против медицинских реалий
Эти выводы появились на фоне того, что крупные технологические компании активно разрабатывают приложения ИИ, ориентированные на здоровье:
- Apple, как сообщается, создает велнес-советника для рекомендаций по физическим упражнениям и сну.
- Amazon анализирует медицинские карты на предмет социальных показателей здоровья
- Microsoft разрабатывает системы искусственного интеллекта для определения приоритетов в общении с пациентами.
Однако медицинское сообщество по-прежнему с осторожностью относится к внедрению этих технологий в клинических условиях. Американская медицинская ассоциация прямо предостерегает врачей от использования потребительских чат-ботов для поддержки принятия решений, и это предупреждение повторяют сами разработчики ИИ. Политика использования Open AI специально запрещает использовать свои модели в диагностических целях.
"Мы настоятельно рекомендуем людям обращаться к проверенным медицинским источникам, а не к результатам работы чат-ботов для принятия решений в области здравоохранения", - подчеркнул Махди. "Перед широким внедрением эти системы нуждаются в тщательном тестировании в реальных условиях, сравнимом с фармацевтическими испытаниями".
Заключение
Хотя чат-боты с искусственным интеллектом предлагают интригующие возможности для повышения доступности здравоохранения, данное исследование выявляет существенные риски в текущих реализациях. По мере развития технологии разработчики должны устранить критические пробелы в надежности, а пользователи должны подходить к медицинским советам ИИ с соответствующим скептицизмом.
Рост ИИ сдерживается отсутствием доверия со стороны общества
В то время как политики подчеркивают потенциал ИИ для роста и повышения эффективности, в недавнем отчете говорится о значительном дефиците доверия среди населения. Широко распространенный скептицизм с
Duolingo заменяет подрядчиков искусственным интеллектом в рамках стратегической перестройки
Duolingo проводит реструктуризацию отдельных команд в рамках перехода к организации, ориентированной на искусственный интеллект (ИИ), как сообщается во внутренней памятке генерального директора и соучредителя Луиса фон Ана, которая позже была опублик
Исследование Массачусетского технологического института показало, что искусственный интеллект снижает активность человеческого мозга
Исследование, проведенное Массачусетским технологическим институтом (MIT), показало, что использование большой языковой модели (LLM) не только снижает умственные усилия в данный момент, но и оказывает
2026: лучшие современные инструменты на базе ИИ для создания визуальных стилей персонажей, мудбордов и презентаций — уже доступны на XIX.AI! В этом тщательно подобранном списке самых высокооцененных инструментов представлены мощные решения, способные кардинально изменить ваш подход к работе и прошедшие строгие тесты в реальных условиях. Здесь вы найдёте сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы повысить творческий потенциал и оптимизировать рабочий процесс. Ознакомьтесь с ним прямо сейчас, чтобы найти идеальный инструмент для повышения продуктивности!
11 инструментов
xix.ai
XIX.AI подготовила подборку лучших и наиболее высокооцененных инструментов для анализа результатов поиска с помощью ИИ (2026 г.) на основе тщательных тестов в реальных условиях и еженедельно обновляемого рейтинга. Эти мощные инструменты помогут вам раскрыть скрытые возможности оптимизации, повысить эффективность контента и получить конкурентное преимущество в поиске. Найдите свой идеальный инструмент, чтобы уже сегодня усовершенствовать свою поисковую стратегию. Ознакомьтесь с ними прямо сейчас!
13 инструментов
xix.ai
2026 г. Лучшие новейшие высокооцененные инструменты ИИ для обнаружения аномалий в мониторинге KPI для команд SaaS и электронной коммерции! XIX.AI подготовила мощную, меняющую правила игры коллекцию на основе строгих реальных тестов и еженедельно обновляемых рейтингов. Вы найдете подробные сравнительные данные по бесплатным и платным решениям, которые помогут вам определить обязательное к использованию решение, повышающее производительность и раскрывающее ваш потенциал в области ИИ. Исследуйте сейчас!
10 инструментов
xix.ai
2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.
8 инструментов
xix.ai
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
Wait, 17% of adults already use chatbots for medical advice? That's terrifying. I can barely trust WebMD without spiraling into hypochondria. 😅 Has anyone actually gotten a correct diagnosis from ChatGPT? I'd rather wait for my doctor than risk a hallucination about my symptoms.
Die 17% Nutzerquote ist krass, aber logisch - bei monatelangen Wartezeiten bei nem Facharzt frag ich auch erstmal ChatGPT. Der Artikel bringt es gut auf den Punkt: 'Daten sind ein Problem'. Wenn mein Chatbot mit veralteten Studien oder irreführenden, kommerziellen Gesundheits-Blogs trainiert wurde, ist der Ratschlag mehr als nur 'unzuverlässig', das wird potenziell gefährlich. 🧐 Ich hoffe, die Regulierungsbehörden schlafen da nicht ein.
看完这篇标题为“Study Reveals Challenges in Obtaining Reliable Health Advice From Chatbots”的研究简介感觉有点担忧，17%的人用ChatGPT询问健康建议其实挺普遍的。但AI毕竟不是医生，给出的信息准不准确、会不会耽误病情都是问题，得小心谨慎啊😂。希望未来能有更可靠的医疗AI，但现在还是去正规医院更靠谱。
