2024年8月、EUでAI規制法（AI Act）が発効しました。医療・雇用・教育など人の権利や生活に大きく影響する領域を「高リスクAI」と位置づけ、厳格な規制を課す内容で、違反時には最大3,500万ユーロという巨額の制裁金が科される可能性があります。一方、日本では2025年5月にAI推進法が成立しましたが、罰則を設けず企業の自主的な取り組みを促すイノベーション重視の内容となっています。「罰則付きの厳格規制」を選んだEUと「性善説的な促進法」を選んだ日本という対比は、AI活用に対する国家としての哲学の違いを鮮明に映し出しています。

介護現場においても、AIの活用は急速に広がっています。ケア記録の自動生成、見守りセンサーによる異常検知、ケアプラン作成支援など、業務効率化の手段としてAIへの期待は高まる一方です。しかし日本のAI推進法が「自主的な取り組み」を求めているということは、逆に言えば現場の事業者側がガバナンスの視点を自ら持たなければならないことを意味します。

介護記録にAIを活用する場合に特に重要なのが「人間による最終確認」という思想です。AIが生成した記録や判断をそのまま使用するのではなく、職員が内容を確認・修正した上で確定させるプロセスを組み込むこと。これは規制の有無にかかわらず、利用者の尊厳と安全を守るために現場が先取りしておくべき原則です。AIが出力した情報に対して「誰が、何を根拠に、最終判断を下したか」という説明責任の所在を明確にしておくことが、トラブル発生時のリスク管理にもつながります。

AI活用の恩恵を最大限に受けながら、その限界と責任を正しく理解する。介護現場におけるAIガバナンスは、制度が整備されるのを待つのではなく、今まさに各事業所が自らの運用ルールとして整備していくべき課題です。