こんにちは。M&Cパートナーコンサルティングの村上佳子です。
今回は、医療機関でAIを使うときに、事務長さんが必ず区別しておきたいポイントです。
それは、文書作成を助けるAIと、診断・治療判断に関わるAIは別物だということです。
たとえば、院内掲示文を作るAI、研修資料をわかりやすくするAI、議事録を整えるAIは、基本的には業務効率化のための道具です。
もちろん、情報漏えいや誤情報には注意が必要です。しかし、それ自体が患者さんの診断や治療を直接決めるわけではありません。
一方で、画像診断支援AI、疾患リスク判定AI、治療方針提案AI、重症化予測AIなどは、まったく別の扱いになります。
なぜなら、そのAIの出力が医師の判断に影響し、患者さんの治療内容や経過に影響する可能性があるからです。
ここで出てくるのが、薬機法上の「医療機器プログラム」という考え方です。
厚生労働省は、医療機器プログラムの該当性について、ガイドライン、判断事例、事例データベースを公表しています。該当性の基本には、医療機器としての目的性があるか、意図したとおりに機能しない場合に患者または使用者の生命・健康に影響を与えるおそれがあるか、という視点があります。
事務長さんが現場で確認すべきことは、難しいAIの中身ではありません。
まず、そのAIが何を目的にしているのかです。
「診断を支援する」と言っているのか。
「治療方針を提案する」と言っているのか。
「リスクを判定する」と言っているのか。
「医師の参考情報を整理するだけ」なのか。
この目的によって、確認すべき内容が変わります。
次に、薬事承認や認証の有無です。
医療機器プログラムに該当する可能性があるAIを導入する場合は、販売業者やメーカーに対して、薬機法上の位置づけを確認してください。
「これは医療機器ですか」
「承認または認証を受けていますか」
「医療機器に該当しないという整理なら、その根拠は何ですか」
「医師の最終判断との関係はどう説明されていますか」
こうした質問をすることが大切です。
また、院内での説明も必要です。
AIが出した結果を、医師がそのまま信じてしまう。
看護師や技師が、AIの判定を確定診断のように扱ってしまう。
患者さんに「AIがこう言っています」と説明してしまう。
こうした運用は危険です。
AIはあくまで支援ツールです。最終判断は医師が行います。
この原則を、院内で明確にしておく必要があります。
もう一つ大切なのは、責任の所在です。
AIが誤った判定をした場合、誰が確認するのか。
異常値や警告が出た場合、誰に通知されるのか。
AIの判定と医師の判断が異なる場合、どのように記録するのか。
患者説明ではどこまでAI利用を説明するのか。
これらは導入前に決めておくべきことです。
診断支援AIや治療支援AIは、医療の質を高める可能性があります。医師の負担軽減にもつながるでしょう。
でも、便利そうだからという理由だけで導入すると、あとで運用が曖昧になります。
事務長さんは、AIの専門家である必要はありません。
ただし、次の3つは必ず確認してください。
1つ目、何を目的としたAIなのか。
2つ目、医療機器プログラムに該当するのか。
3つ目、最終判断と責任の所在はどこにあるのか。
この3つを確認するだけでも、導入時のリスクは大きく下げられます。
