英国の監視機関が医療用AIによる文字起こしの誤りを指摘し、患者の安全に関する懸念が高まっている

英国の国民保健サービス(NHS)の規制当局は、医師と患者の診察を文字起こしするために使用されるAIツールが、薬品名や病名を誤って識別することで患者の安全を脅かしていると警告を発したと、ガーディアン紙が報じている。患者の権利団体であるHealthwatch Englandは、この技術の急速な導入が医療の質に具体的なリスクをもたらしていることを示す複数の事例を指摘している。
「脱髄なし」を「脱髄」と誤解する
1つの記録された事例では、AI文字起こしシステムが女性患者に「脱髄」という、多発性硬化症に関連する深刻な神経疾患を有していると誤って記録した。NHSの医療従事者であるこの患者は、MRI結果を確認する際にこの不一致に気づき、記録を「脱髄なし」に修正した。彼女は、AIが誤った診断を提供し、それを単なるタイプミスとして処理したこの出来事を、非常に苦痛な経験として語った。
別の事例では、AIシステムが処方された薬品を類似した名前の別の薬品と混同し、この誤りは処方医ではなく患者によって発見された。別のケースでは、AIが生成した要約書に、患者が一般開業医から片頭痛の処方箋の再発行を依頼するよう専門医から指示されたことが記載されておらず、これにより患者が必須の薬品にアクセスできなくなる可能性があった。
規制の隙間と「両刃の剣」
Healthwatchは、検出されないエラーが患者記録の恒久的な部分となり、将来の治療に悪影響を及ぼす可能性があると警告している。同団体は、医療専門家が見逃した間違いを患者が特定した多数の報告を受け取っている。さらに重要なのは、英医薬品・医療機器規制庁(MHRA)がこれらのツールを医療機器として分類しないことを選んだ点である。その結果、イングランドには現在27のそのようなツールが地元の医師によって使用されているにもかかわらず、その安全性と有効性を確保するための全国的な規制枠組みが存在しない。
関連記事
ByteDanceのSeedがグローバルキャンパス採用を開始、大規模モデルのトップ人材獲得に向けて仮想株式を提供
大規模言語モデルの競争環境において、トップクラスのタレントを確保することは、最も重要な戦略的資産であり続けています。4月1日、ByteDanceは、大規模モデル人材育成プログラムの一部であるSeedグローバルキャンパス採用イニシアチブの開始を発表しました。このキャンペーンは2027年卒の卒業予定者と現在のインターン生を対象としており、世界中のAI分野におけるエリート研究開発者およびエンジニアの発掘と確保を目指しています。拡大:世界中から100名の「AIシード」を発掘急速な技術進歩の中で、B
法的争訟の中でSunoが曲に透かしを入れる
Sunoは、ユーザーがAI生成音楽を作成できるプラットフォームであり、プラットフォームが生成したトラックにラベルを付け、ダウンロードを制限し、不正な複製を抑制するためにコミュニティ基準を更新する新機能を公開した。これらの更新は、Sunoがレコードレーベルやアーティスト団体からの複数の訴訟に直面している時期に実施される。共同創設者兼CEOのMikey Shulmanはブログ記事で、プラットフォームの目標が、より広い層にAI音楽ツールのアクセスを拡大しながら、オリジナルの創作を促進することに重点を
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@
関連特集おすすめ
コメント (0)
0/500

英国の国民保健サービス(NHS)の規制当局は、医師と患者の診察を文字起こしするために使用されるAIツールが、薬品名や病名を誤って識別することで患者の安全を脅かしていると警告を発したと、ガーディアン紙が報じている。患者の権利団体であるHealthwatch Englandは、この技術の急速な導入が医療の質に具体的なリスクをもたらしていることを示す複数の事例を指摘している。
「脱髄なし」を「脱髄」と誤解する
1つの記録された事例では、AI文字起こしシステムが女性患者に「脱髄」という、多発性硬化症に関連する深刻な神経疾患を有していると誤って記録した。NHSの医療従事者であるこの患者は、MRI結果を確認する際にこの不一致に気づき、記録を「脱髄なし」に修正した。彼女は、AIが誤った診断を提供し、それを単なるタイプミスとして処理したこの出来事を、非常に苦痛な経験として語った。
別の事例では、AIシステムが処方された薬品を類似した名前の別の薬品と混同し、この誤りは処方医ではなく患者によって発見された。別のケースでは、AIが生成した要約書に、患者が一般開業医から片頭痛の処方箋の再発行を依頼するよう専門医から指示されたことが記載されておらず、これにより患者が必須の薬品にアクセスできなくなる可能性があった。
規制の隙間と「両刃の剣」
Healthwatchは、検出されないエラーが患者記録の恒久的な部分となり、将来の治療に悪影響を及ぼす可能性があると警告している。同団体は、医療専門家が見逃した間違いを患者が特定した多数の報告を受け取っている。さらに重要なのは、英医薬品・医療機器規制庁(MHRA)がこれらのツールを医療機器として分類しないことを選んだ点である。その結果、イングランドには現在27のそのようなツールが地元の医師によって使用されているにもかかわらず、その安全性と有効性を確保するための全国的な規制枠組みが存在しない。
ByteDanceのSeedがグローバルキャンパス採用を開始、大規模モデルのトップ人材獲得に向けて仮想株式を提供
大規模言語モデルの競争環境において、トップクラスのタレントを確保することは、最も重要な戦略的資産であり続けています。4月1日、ByteDanceは、大規模モデル人材育成プログラムの一部であるSeedグローバルキャンパス採用イニシアチブの開始を発表しました。このキャンペーンは2027年卒の卒業予定者と現在のインターン生を対象としており、世界中のAI分野におけるエリート研究開発者およびエンジニアの発掘と確保を目指しています。拡大:世界中から100名の「AIシード」を発掘急速な技術進歩の中で、B
法的争訟の中でSunoが曲に透かしを入れる
Sunoは、ユーザーがAI生成音楽を作成できるプラットフォームであり、プラットフォームが生成したトラックにラベルを付け、ダウンロードを制限し、不正な複製を抑制するためにコミュニティ基準を更新する新機能を公開した。これらの更新は、Sunoがレコードレーベルやアーティスト団体からの複数の訴訟に直面している時期に実施される。共同創設者兼CEOのMikey Shulmanはブログ記事で、プラットフォームの目標が、より広い層にAI音楽ツールのアクセスを拡大しながら、オリジナルの創作を促進することに重点を
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@





家






