こんにちは。M&Cパートナーコンサルティングの村上佳子です。
ここまで、医療機関でAIを使うときの考え方をお話ししてきました。
今回は、いよいよ院内ルールの作り方です。
AI利用で一番避けたいのは、職員がそれぞれ自己判断で使っている状態です。
いわゆるシャドーITですね。
「ちょっと便利だから」
「個人アカウントで使えるから」
「患者名を消せば大丈夫だと思ったから」
こうした形で、現場がバラバラにAIを使い始めると、事務長さんが実態を把握できなくなります。
ですから、医療機関では、まず院内AI利用ルールを作ることが大切です。
難しい規程をいきなり作る必要はありません。最初は1枚のルールでもかまいません。
ただし、最低限、次の項目は入れてください。
1つ目は、利用を認めるAIサービスの範囲です。
「当院で利用してよいAIサービスは、院長または管理部門が承認したものに限る」と明記します。
無料版の生成AI、個人アカウント、私用端末からの利用は、原則禁止または患者情報入力禁止とした方がよいでしょう。
2つ目は、入力してはいけない情報です。
患者氏名、住所、生年月日、診察券番号、保険情報、病名、検査結果、処方内容、カルテ記載、画像データ、音声データ、紹介状、退院サマリーなどです。
匿名化したつもりでも、内容の組み合わせで個人が特定される場合があります。医療情報は慎重に扱う必要があります。
3つ目は、AIの出力をそのまま使わないことです。
AIが作った文章は、必ず人が確認する。
医療・制度・法律・診療報酬に関わる内容は、責任者が確認する。
患者さんに渡す文書は、必ず担当者が内容を確認する。
このルールはとても重要です。
4つ目は、診断・治療判断に使わないことです。
承認された診断支援AIや医療機器プログラムを除き、一般的な生成AIを診断や治療判断に使ってはいけません。
「この症状は何ですか」
「この薬を出してよいですか」
「この検査値をどう判断しますか」
こういった使い方を職員個人の判断で行わないよう、明確にしておきます。
5つ目は、利用記録と相談窓口です。
誰が、どのAIを、どの業務で使ってよいのか。
新しいAIサービスを使いたい場合、誰に相談するのか。
誤って患者情報を入力した場合、どこに報告するのか。
これを決めておかないと、事故が起きたときに対応が遅れます。
また、AI利用ルールは、作って終わりではありません。
職員研修が必要です。
特に、受付、医事課、看護部、地域連携室、総務、人事、経理など、AIを使いやすい部署ほど注意が必要です。
研修では、難しいAI技術の説明よりも、具体例で伝えるのが効果的です。
「患者名を消しても、病名や日付、地域で特定されることがあります」
「AIの回答は正しいとは限りません」
「便利だからといって、個人アカウントに医療情報を入れてはいけません」
「迷ったら自己判断せず、管理部門に相談してください」
このように、現場の行動に落とし込んでください。
国全体としても、AIの活用を進めながらリスクに対応する方向に進んでいます。内閣府は、AI法について、AIのイノベーションを促進しつつリスクに対応するため、令和7年6月4日に公布・一部施行され、同年9月1日に全面施行されたと説明しています。
つまり、AIは「使うな」という時代ではありません。
ただし、医療機関では、使い方を決める必要があります。
事務長さんは、現場のAI利用を止める人ではなく、安全に使えるルールを作る人です。
まずは、承認AI、禁止事項、出力確認、相談窓口、事故時報告。
この5つから整備を始めてください。
