Дом
Ведомство по надзору за здравоохранением Великобритании указывает на ошибки в медицинском ИИ-транскрипировании, что вызывает опасения по поводу безопасности пациентов

Регулятор Национальной службы здравоохранения Великобритании выпустил предупреждение о том, что инструменты искусственного интеллекта, используемые для расшифровки консультаций между врачами и пациентами, ставят под угрозу безопасность пациентов из-за неправильной идентификации названий лекарств и заболеваний, сообщает The Guardian. Организация Healthwatch England, защищающая права пациентов, выделила несколько инцидентов, демонстрирующих, что быстрое внедрение этой технологии создает реальные риски для качества медицинской помощи.
Неправильная интерпретация «нет демиелинизации» как «демиилинизация»
В одном задокументированном случае система расшифровки на основе искусственного интеллекта ошибочно записала у пациентки наличие «демиилинизации» — серьезного неврологического заболевания, связанного с рассеянным склерозом. Пациентка, сотрудник NHS, заметила несоответствие при просмотре результатов МРТ и исправила запись на «нет демиелинизации». Она описала этот инцидент, в котором ИИ предоставил неверный диагноз и отнесла его к разряду опечаток, как глубоко травмирующий опыт.
Другой инцидент включал систему ИИ, которая перепутала назначенное лекарство с другим препаратом со схожим названием; ошибку заметила пациентка, а не врач, назначивший лечение. В отдельном случае письмо с итогами, сгенерированное ИИ, не включало рекомендацию специалиста о том, что пациентке следует обратиться к своему терапевту для продления рецепта на лекарства от мигрени, что потенциально могло лишить ее доступа к жизненно важным препаратам.
Пробелы в регулировании и «двусторонний меч»
Healthwatch предупреждает, что незамеченные ошибки могут стать постоянной частью медицинских карт пациентов, негативно влияя на будущее лечение. Организация получила множество отчетов, в которых пациенты выявляли ошибки, пропущенные медицинскими работниками. Более того, Управление по регулированию лекарств и изделий медицинского назначения Великобритании (MHRA) выбрало не классифицировать эти инструменты как медицинские изделия. В результате в Англии отсутствует общенациональная нормативно-правовая база, обеспечивающая их безопасность и эффективность, хотя в настоящее время местные врачи используют 27 таких инструментов.
Связанная статья
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Рекомендации по связанным специальным темам
Комментарии (0)

Регулятор Национальной службы здравоохранения Великобритании выпустил предупреждение о том, что инструменты искусственного интеллекта, используемые для расшифровки консультаций между врачами и пациентами, ставят под угрозу безопасность пациентов из-за неправильной идентификации названий лекарств и заболеваний, сообщает The Guardian. Организация Healthwatch England, защищающая права пациентов, выделила несколько инцидентов, демонстрирующих, что быстрое внедрение этой технологии создает реальные риски для качества медицинской помощи.
Неправильная интерпретация «нет демиелинизации» как «демиилинизация»
В одном задокументированном случае система расшифровки на основе искусственного интеллекта ошибочно записала у пациентки наличие «демиилинизации» — серьезного неврологического заболевания, связанного с рассеянным склерозом. Пациентка, сотрудник NHS, заметила несоответствие при просмотре результатов МРТ и исправила запись на «нет демиелинизации». Она описала этот инцидент, в котором ИИ предоставил неверный диагноз и отнесла его к разряду опечаток, как глубоко травмирующий опыт.
Другой инцидент включал систему ИИ, которая перепутала назначенное лекарство с другим препаратом со схожим названием; ошибку заметила пациентка, а не врач, назначивший лечение. В отдельном случае письмо с итогами, сгенерированное ИИ, не включало рекомендацию специалиста о том, что пациентке следует обратиться к своему терапевту для продления рецепта на лекарства от мигрени, что потенциально могло лишить ее доступа к жизненно важным препаратам.
Пробелы в регулировании и «двусторонний меч»
Healthwatch предупреждает, что незамеченные ошибки могут стать постоянной частью медицинских карт пациентов, негативно влияя на будущее лечение. Организация получила множество отчетов, в которых пациенты выявляли ошибки, пропущенные медицинскими работниками. Более того, Управление по регулированию лекарств и изделий медицинского назначения Великобритании (MHRA) выбрало не классифицировать эти инструменты как медицинские изделия. В результате в Англии отсутствует общенациональная нормативно-правовая база, обеспечивающая их безопасность и эффективность, хотя в настоящее время местные врачи используют 27 таких инструментов.
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три











