してはいけない事例で学ぶ！　医療・介護・福祉現場の生成AI活用術とシャドーAI対策

はじめに

生成AIは強力な味方か，トラブルメーカーか？

まず，生成AIが医療・介護・福祉の現場にもたらすポジティブな可能性について触れておきましょう．記録作成，資料作成，効率的な情報整理・共有，メール文の下書き作成，専門用語の学習，法改正やガイドラインの学習，若手スタッフの教育支援，など適切に使えば，生成AIは大きな力を発揮します．実際に医療・介護・福祉の現場でも，「生成AIがすごい！」「AIで業務が楽になった！」といった声を耳にすることが増えてきました．

さらに，介護・福祉分野で働く方へのアンケート調査では，「年収」を上げるよりも「AIの利用のガイドラインを整備すること」の方が従業員満足度を高めることがわかっています．人手不足の中で採用力を高めていくためにも，管理者・経営者にとってAIを活用できる環境の整備は重要な課題です．（調査結果は最終章で詳細を解説します．）

しかし同時に「AIを導入するのは不安」「トラブルが起きたらどうしよう」という声も多く聞かれます．僕は障害福祉の現場でAI活用を推進する傍ら，医療機関や大学のDX顧問として，多様な支援現場でのAI活用の悩みに触れてきました．その中で痛感したのは，「やってはいけないこと」を知らないまま，「良かれと思って」AIを使って大きなトラブルに発展するケースが多いということです．

シャドーAIが最も深刻な情報セキュリティリスク

情報セキュリティの世界では，組織が許可していないITを従業員がこっそり使ってしまうことを「シャドーIT」と呼びます．その生成AI版として，私物のスマホや無料アカウントで無断にAIを業務利用してしまうことを，「シャドーAI」と呼びます．

「うちはまだAIは導入していない」と経営層が考えていても，現場ではこっそりとAIの利用が広がっています．悪意がある訳ではなく，熱心な方，優秀な方ほど新しいツールをいち早く情報収集し使ってしまうものです．

かつて，私物のスマホやUSBメモリが無断で業務に使われる「シャドーIT」がセキュリティリスクとして叫ばれました．今，それ以上に危険なのが「シャドーAI」です．支援者184名への調査結果でも，個人の判断でAIを利用している実態が浮き彫りになりました．

「時間がないから仕方ない」「善意でやっている」「みんなやってる」「ルールがないから問題ない」「バレないから大丈夫」という心理が，シャドーAIの利用を助長しています．

生成AIは，正しく活用すれば医療・介護・福祉の現場で大きな力を発揮します．記録や書類作成の効率化，チームでの情報共有の円滑化，難しい事例での対応力向上など，忙しい支援者を支える強力なツールになり得ます．

しかし，使い方を誤れば，個人情報の流出，医療過誤につながる判断ミス，著作権侵害など，思わぬトラブルを招く可能性があるのです．

「何が危険か」の理解が，AI活用の第一歩

特に深刻なのは，昨今の学生や若手スタッフがAIを日常的に使うのが当たり前になっているという現状です．彼らはAIの便利さを知っている一方で，「どこまでなら使っていいのか」「何をしてはいけないのか」という境界線を理解していないケースが多く見られます．学校教育や新人研修において，具体的な失敗事例とともに「してはいけないこと」を明示する教材が強く求められていると感じます．

一方で管理職や経営層の中には「AIはリスク」と不安視するあまり，活用を躊躇（ちゅうちょ）している方も少なくありません．しかし，適切な知識とルールがあれば，多くのリスクは回避できます．AIを「知らぬ・存ぜぬ」では，スタッフがトラブルを起こす危険性を正しく認識できず，防げるものも防げません．「何が危険で，どうすれば安全に使えるのか」を理解することこそが，AI活用の第一歩なのです．

支援現場のAI活用の「失敗事例」から学ぶ

本書は前半の基礎編で「生成AI」「個人情報」「著作権」の基本をわかりやすく解説し，後半では医療・介護・福祉の現場で実際に起こった（または起こり得る）30の失敗事例を取り上げ，以下の構成で解説します．

・失敗事例：具体的なシチュエーションで何が起きたのか？

・このケースの問題点：なぜそれが問題なのか？

・Point：背景にある法律や技術の知識をわかりやすく説明

・今後の対策：同じ失敗を繰り返さないための具体的な対策

初学者でも，気になる事例から体験的に学ぶことができる内容を心がけて執筆しています．

こんな方にこそ，読んでほしい！

・医療・介護・福祉現場でAI導入を検討している管理職・経営層の方

・学生や新人スタッフへの教育を担当する指導者の方

・医療・介護・福祉現場でAIを使い始めた（または使いたい）実務者の方

具体的には，医療機関の理事，事務長，看護部長，介護福祉施設の施設長や経営者，医療・介護・福祉の専門職を育成する大学の教員，そして現場でAIを使うすべての支援者の方に届けたいと思っています．

「AIのすごさは何となく知っているけど，リスクが大きそうで不安」「現場でAIを使い始めたようだけど，しっかりルールを整備できてるか心配」という方にこそ，ぜひ本書を手にとって社内研修やルール設計に活用していただきたいです．

また，あまり詳しくない方にも読んでいただけるよう，巻末には用語解説があります．ときどき出てくる下線を引いた語はそちらもご覧ください．

失敗から学び，正しく活用するために

本書では支援現場のリアルな失敗事例を多く掲載していますが，決して「AIを使うな」と主張したい訳ではありません．むしろ，「ここに気をつければ，AIは支援者の強力な味方になる」ということを伝えたいのです．医療・介護・福祉の現場は，常に人手不足と業務過多に直面しています．しかしながら最もDXが遅れている分野とも言われています．人命や尊厳に関わる現場だからこそ，DX・AI活用を推進する上でも慎重さと正しい知識が求められます．

本書が，皆さんの支援現場で安全かつ効果的にAIを活用するための羅針盤となり，「やってはいけないこと」を事前に知ることで未然にトラブルを防ぐ一助となれば幸いです．

それでは，具体的な事例を通じて，一緒に学んでいきましょう．

2026年5月

株式会社パパゲーノ 代表取締役
田中康雅（やすまさ）