こんにちは。M&Cパートナーコンサルティングの村上佳子です。
最近、医療機関の事務長さんから「うちの職員がChatGPTのような生成AIを使っているようなのですが、これは止めた方がいいのでしょうか」と聞かれることが増えてきました。
結論から言うと、私は「全部禁止」でも「全部自由」でもないと思っています。
大事なのは、AI利用をひとくくりにしないことです。
医療機関でのAI利用は、まず大きく3つに分けて考えると整理しやすくなります。
1つ目は、院内業務を効率化するためのAI利用です。たとえば、院内掲示文のたたき台を作る、研修資料をわかりやすくする、会議メモを整理する、患者さん向けの一般的な説明文をやさしい表現に直す、といった使い方です。
この使い方であれば、患者さんの個人情報を入れない限り、比較的取り組みやすい領域です。
2つ目は、患者情報や診療情報を扱うAI利用です。たとえば、カルテの要約、紹介状の下書き、退院サマリーの整理、問診内容の要約などです。
ここからは一気に注意が必要になります。氏名、病名、検査値、処方内容、既往歴などは、医療機関にとって極めて重要な情報です。入力した内容がAIサービス側で保存されるのか、再学習に使われるのか、国外に移転されるのか、契約上どのように守られているのかを確認しなければなりません。
3つ目は、診断・治療判断に関わるAI利用です。画像診断支援、疾患リスク判定、治療方針の提案などがこれにあたります。
これは単なる便利ツールではありません。厚生労働省は、医療機器としての目的性があり、意図どおりに機能しない場合に患者や使用者の生命・健康に影響を与えるおそれがあるプログラムは、薬機法上の医療機器プログラムとして規制対象になる考え方を示しています。
つまり、事務長さんが最初にやるべきことは、「AIを使っていいか、ダメか」を決めることではありません。
まず、何に使うAIなのかを分けることです。
院内文書のたたき台なのか。
患者情報を扱うのか。
診断や治療判断に関わるのか。
この3つを分けずに議論すると、現場は混乱します。
「AIは危ないから全部禁止」と言うと、職員は便利な使い方までできなくなります。逆に「便利だから自由に使っていい」とすると、患者情報の入力や、誤った医療情報の利用につながる危険があります。
生成AIについては、医療AIプラットフォーム技術研究組合が、医療・ヘルスケア分野での安全かつ有効な活用を目的に「医療・ヘルスケア分野における生成AI利用ガイドライン第2版」を公表しています。この資料では、医療文書作成や患者説明支援などのユースケースと、個人情報漏えい、誤情報、著作権侵害といったリスクが整理されています。
私は、医療機関でAI活用を始めるなら、まず「安全な使い方から始める」ことをおすすめします。
最初からカルテや診療情報を扱うのではなく、患者情報を入れない業務から始める。
たとえば、院内研修資料、掲示文、マニュアルのわかりやすい表現への修正、議事録の整形などです。
そのうえで、患者情報を扱うAIについては、承認されたサービスだけに限定する。診断・治療判断に関わるAIは、医療機器該当性や薬事承認の有無を確認する。
この順番が大切です。
事務長さんの役割は、AIを止めることではありません。
「使ってよいAI」と「使ってはいけないAI」を整理し、現場が迷わず安全に使える環境を整えることです。
これからの医療機関では、AIを使う力も必要になります。ただし、医療機関は一般企業とは違います。患者さんの命と情報を預かる組織です。
だからこそ、AI活用は勢いだけで進めてはいけません。
まずは用途を3つに分ける。
ここから始めてください。
