宮田浩行 宮田浩行 ブログ
医療・介護AI

生成AIの介護記録、その一行は本当か確かめる習慣｜ハルシネーション対策

公開: 2026年9月11日

※本記事は一般的な情報提供を目的としたものであり、個別の診断・治療に代わるものではありません。 症状や対応については、主治医・かかりつけ医、または専門の相談窓口にご相談ください。

以下は、実在の利用者・事業所とは関係のない架空の場面です。訪問を終えた帰り道、AIに下書きさせた報告書を読み返すと、「ご家族と面談し、了承を得た」という一文がありました。しかし、その面談は行っていません。こうした「もっともらしい誤り」は、なぜ生成AIの文章に紛れ込むのでしょうか。そして、事業所で今日から始められる確認の仕組みとは、どのようなものでしょうか。訪問看護・介護の現場で記録を書き、確かめてきた立場から、仕組みと運用のヒントを整理します。

なぜ「していない面談」が記録に書かれるのか

先ほどの場面は、特別な事故ではありません。生成AIの性質上、どの事業所でも起こりうることです。

「ハルシネーション」という言葉の意味

総務省の「令和6年版情報通信白書」は、生成AIが事実に基づかない内容をもっともらしく作り出す現象を「ハルシネーション（幻覚）」と呼んでいます。白書は、技術的な対策は進んでいるものの完全に抑えることは難しいとしたうえで、利用者が出力の正しさを確認することが求められるとしています。この記事では、以後「もっともらしい誤り」という言い方で統一します。

介護記録で起こりやすい3つの型

介護・訪問看護の記録では、次のような型がよく想定されます。

いずれも一般的に想定される型であり、発生頻度を示す公的なデータがあるわけではありません。「よくある」とも「まれ」とも言い切れないというのが、正直なところです。

AIをどう使い始めればいいか迷っている場合は、看護師・介護士のAI活用入門｜文書仕事を楽にする現実的な使い方が参考になります。

生成AIはなぜ「もっともらしい誤り」を書くのか

大規模言語モデルの仕組みを一言で

生成AIの多くは、大量の文章パターンを学習し、「次にどんな言葉が続きやすいか」を予測しながら文章を組み立てる仕組みだと説明されています。あらかじめ用意された事実のデータベースを検索して、答えを引き出しているわけではありません。そのため、文脈として自然に続きそうな一文として、実際にはなかった出来事をもっともらしく書いてしまうことがあります。

国のガイドラインでも前提として扱われている

総務省・経済産業省「AI事業者ガイドライン」（第1.2版、2026年3月）でも、生成AIの出力に誤りが含まれ得ることは前提として扱われています。国の指針でも織り込み済みのリスクだと捉えておくと、現場での向き合い方も見えやすくなると思います。

誤り率の数字はこの記事では扱わない、という断り

人が最終確認する仕組みが有効だとする研究も報告されています。2026年に公表されたシステマティックレビューでは、人が確認に関わる仕組みを含む対策の効果が報告されていますが、研究ごとに対象や評価方法が大きく異なるため、この記事では具体的な割合を示しません。数字が一人歩きすると、かえって現場の実態を見誤らせてしまいます。

記録は「下書き」のまま確定できない｜確認する人を先に決める運用

保存義務のある正式文書という前提

介護記録・訪問看護記録は、保存義務のある正式な文書です。指定居宅サービス等の事業の人員、設備及び運営に関する基準（平成11年厚生省令第37号）第73条の2は、訪問看護計画書や報告書などの記録を、完結の日から2年間保存するよう定めています。指定権者の条例で保存期間を5年としている自治体もあるため、自分の事業所の指定権者の定めを確認してください。また、医療保険で行う訪問看護には健康保険法に基づく別の基準が適用され、病院・診療所の診療録は保険医療機関及び保険医療養担当規則で5年と定められているなど、制度ごとに保存年数が異なる点にも注意が必要です。AIが下書きした一文であっても、確定させた瞬間からこの保存義務の対象になる、という前提を忘れないようにしたいところです。

「真正性」という考え方

厚生労働省「医療情報システムの安全管理に関するガイドライン」では、記録の「真正性」、つまり正当な権限で作成された記録について、虚偽入力・書き換え・消去・混同が防止され、作成の責任の所在が明確であることが求められる、という考え方が第6.0版（2023年5月）以降示されています（最新版は第7.0版、2026年6月）。AIが下書きした文章であっても、確定記録として扱う以上、その責任は最終的に人が引き受けることになります。

確認担当を決めると何が変わるか

「下書き」と「確定記録」の境目があいまいなまま運用されると、確認が抜けたまま提出されるリスクが高まります。確認担当を先に決めておく事業所では、確認なしの提出が起きにくい運用になると考えられます。確認担当を決める運用によって、事実と違う記録が外に出るリスクを減らせる場合があります。

下書きそのものを時短する手順は、1日15分の省力化！ 看護記録・連絡ノートをAIで時短する手順書にまとめています。記録や報告書のどこまでをAIに任せるかの線引きは、訪問看護AI活用ガイド｜記録・報告書はどこまで任せられる？で詳しく解説しています。

利用者情報をAIに入力する前に、立ち止まりたいこと

問われるのは「取得」ではなく「その先」

施設や事業所は、契約の時点で利用者情報を適法に取得済みです。生成AIに入力する場面で問われているのは、情報を「取得してよいか」ではなく、すでに持っている情報を外部のサービスにどう渡すか、という点です。具体的には、①あらかじめ示した利用目的の範囲内か、②外部の事業者への第三者提供や委託にあたらないか、③保存先が海外にある場合の扱い、④安全管理の措置が取れているか、という4つの論点です。

「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」（平成29年4月14日通知、令和8年4月一部改正）とQ&A事例集を確認した範囲では、生成AIの入力を名指しした記載は見当たりませんでした。ガイダンスの文言に頼るのではなく、この4つの論点で自分たちの運用を考える必要があります。

個人情報保護委員会の注意喚起（2023年6月）の実際の中身

個人情報保護委員会は2023年6月2日、「生成AIサービスの利用に関する注意喚起等」を公表しました。事業者に向けて示されているのは、大きく2点です。1つは、個人情報を含む入力が、あらかじめ示した利用目的の範囲内であることを十分に確認すること。もう1つは、本人の同意なく個人データを入力し、それが応答結果の出力以外の目的、たとえば機械学習に使われる場合は、個人情報保護法違反となる可能性があるという点です。

「入力した時点で即座に違反になる」と読める内容ではありませんが、「職員の判断に任せてよい」とも読めません。事業所として先に線引きをしておくことが、実務的には求められています。

「名前を消せば匿名化」という誤解に注意

「利用者の名前を消せば個人情報ではなくなる」と考える方もいますが、これは誤解です。個人情報保護法上の「匿名加工情報」や「仮名加工情報」は、法律で定められた加工基準に従って作成したものだけが該当します。年齢や性別、既往歴の組み合わせだけで個人が推測できることもあり、氏名を伏せただけのメモは、単なる個人データのままだと考えたほうが安全です。

事業所として利用ルールを一から作る場合は、介護施設の生成AI利用ルール｜5項目とひな形【コピペ可】のひな形も参考になります。個人情報の扱いに特に慎重でありたい場合は、訪問看護・介護でローカルAIを使う理由という選択肢もあります。

「使わせない」でも「そのまま信じる」でもない、明日からの一歩

両極端のリスクを並べる

生成AIの向き合い方には、両極端の姿勢があります。一方は、誤りを恐れて全面的に使用を禁止する姿勢です。もう一方は、AIが作った文章をそのまま確定記録にしてしまう姿勢です。前者は時短のメリットを失い、後者は事実と違う記録が家族や主治医に渡るリスクを負います。

使わせない事業所も、鵜呑みにしてしまう事業所も見られます。どちらか一方に振り切らず、その中間の運用を探ることが、現実的な着地点だと思います。

明日から変えられること

ここまで、生成AIがなぜもっともらしい誤りを書くのか、記録という正式文書をどう扱うべきか、利用者情報を入力する前に何を確認すべきかを見てきました。共通しているのは、AIは下書きを作る道具であり、事実を確かめるのは人だという線引きです。

明日から変えられることを1つ挙げるとすれば、記録の事実確認を担当する人を、まず1人決めることです。ひな形や規程を整える前の、いちばん小さな一歩です。

記録の確認担当を決める仕組みづくりや、事業所での生成AI利用ルールの整備について相談したいことがあれば、研修や個別相談で対応できる場合があります。明日から、確認担当を1人決めるところから始めてみてください。

参考資料

著者紹介
宮田浩行。看護師8年・介護福祉士7年（現場歴約15年）の経験を持ち、現在は医療ライター・AI講師として活動。現場経験を軸に、介護・医療分野のAI活用と情報の安全な取り扱いについて発信しています。

自施設での使い方を、一緒に整理しませんか。

研修内容・90分の構成例・料金を確認できます。社内共有用の案内PDFもご用意しています。

法人研修の内容・料金を見る医療・介護事業所向けの生成AI研修 AI活用セルフチェック8問・約1分／結果はその場で確認

関連記事