英國監管機構指出醫療人工智慧轉錄錯誤,引發患者安全擔憂

英國國家醫療服務體系監管機構發出警告稱,據《衛報》報道,用於轉錄醫患諮詢的人工智慧工具因錯誤識別藥物和疾病名稱,正危及患者安全。患者權益組織“英格蘭健康觀察”(Healthwatch England)指出了多起事件,表明該技術的快速採用對護理質量構成了切實風險。
將“無脫髓鞘”誤讀為“脫髓鞘”
在一例有記錄的案例中,一個人工智慧轉錄系統錯誤地記錄了一名女性患者患有“脫髓鞘”——這是一種與多發性硬化症相關的嚴重神經系統疾病。這位患者是英國國家醫療服務體系的一名醫護人員,她在檢視自己的核磁共振成像結果時發現這一差異,並將記錄更正為“無脫髓鞘”。她描述了這一事件,稱人工智慧給出了錯誤的診斷卻將其輕描淡寫為單純的打字錯誤,這是一次令人深感痛苦的經歷。
另一起事件涉及一個人工智慧系統將處方藥物與另一種名稱相似的藥物混淆,這一錯誤是由患者而非開方醫生髮現的。在另一案例中,由人工智慧生成的總結信函未能包含專科醫生指示患者向全科醫生申請偏頭痛處方藥物補給的指令,這可能阻礙他們獲得必要的藥物。
監管空白與“雙刃劍”
“英格蘭健康觀察”警告稱,未被發現的錯誤可能成為患者記錄中永久存在的一部分,從而對未來的治療產生負面影響。該組織收到了大量報告,其中患者發現了醫護人員遺漏的錯誤。更為關鍵的是,英國藥品和醫療產品監管局(MHRA)選擇不將這些工具歸類為醫療器械。因此,儘管目前有27種此類工具正在當地醫生中使用,英格蘭仍缺乏確保其安全性和有效性的全國性監管框架。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500

英國國家醫療服務體系監管機構發出警告稱,據《衛報》報道,用於轉錄醫患諮詢的人工智慧工具因錯誤識別藥物和疾病名稱,正危及患者安全。患者權益組織“英格蘭健康觀察”(Healthwatch England)指出了多起事件,表明該技術的快速採用對護理質量構成了切實風險。
將“無脫髓鞘”誤讀為“脫髓鞘”
在一例有記錄的案例中,一個人工智慧轉錄系統錯誤地記錄了一名女性患者患有“脫髓鞘”——這是一種與多發性硬化症相關的嚴重神經系統疾病。這位患者是英國國家醫療服務體系的一名醫護人員,她在檢視自己的核磁共振成像結果時發現這一差異,並將記錄更正為“無脫髓鞘”。她描述了這一事件,稱人工智慧給出了錯誤的診斷卻將其輕描淡寫為單純的打字錯誤,這是一次令人深感痛苦的經歷。
另一起事件涉及一個人工智慧系統將處方藥物與另一種名稱相似的藥物混淆,這一錯誤是由患者而非開方醫生髮現的。在另一案例中,由人工智慧生成的總結信函未能包含專科醫生指示患者向全科醫生申請偏頭痛處方藥物補給的指令,這可能阻礙他們獲得必要的藥物。
監管空白與“雙刃劍”
“英格蘭健康觀察”警告稱,未被發現的錯誤可能成為患者記錄中永久存在的一部分,從而對未來的治療產生負面影響。該組織收到了大量報告,其中患者發現了醫護人員遺漏的錯誤。更為關鍵的是,英國藥品和醫療產品監管局(MHRA)選擇不將這些工具歸類為醫療器械。因此,儘管目前有27種此類工具正在當地醫生中使用,英格蘭仍缺乏確保其安全性和有效性的全國性監管框架。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






