生成AIの業務利用が急速に広がっています。文書の下書き、議事録の要約、プログラム作成の補助。現場では便利な道具として定着しつつあります。そんな中、ある日、大手取引先からAIの利用状況を問うセキュリティチェックシートが届く。取締役会で「AIの情報管理はどうなっているのか」と問われて言葉に詰まる。監査で「AI利用の統制状況が確認できない」と指摘を受ける。こうした場面は、もはや想像の話ではなく、多くの会社ですでに現実になっています。
本コラムは、こうした場面に経営の視点から備えるためのシリーズの第1回です。先に結論を言えば、これまで積み上げてきた対策が無駄になるわけではありません。しかし、従来の対策だけでは守り切れない領域が、AIの導入によって確実に生まれています。まずは「何が変わったのか」を正確に掴むことから始めましょう。
従来のセキュリティが守ってきたもの
従来の情報セキュリティは、大きく二つの前提の上に組み立てられてきました。
一つ目は境界防御(社内ネットワークと社外を分け、その境目で守る発想)です。ファイアウォール(通信の関所)やVPN(安全な通信経路)を整え、「社内は安全、社外は危険」という線を引く。守るべきデータは社内のサーバーやシステムの中にあり、外へ出る経路を絞って監視すれば漏えいはかなりの程度防げる——この考え方が長く主流でした。
二つ目は人間のアカウント管理です。IDとパスワードを一人ひとりに発行し、役職や部署に応じて権限を与え、退職したら削除する。「システムを操作するのは人間である」ことを前提に、誰が何にアクセスできるかを管理してきました。
この二つの前提は、長い間よく機能してきました。セキュリティ投資はこの前提に沿って行われ、従業員教育も「怪しいメールを開かない」「パスワードを使い回さない」といった、人間の行動を正す内容が中心でした。つまり従来のセキュリティは、「データは決められた場所にあり、操作するのは管理された人間である」という世界観の上に成り立っていたのです。そして、この世界観そのものを、AIが静かに揺さぶり始めています。
AIで変わる3つのこと
では、生成AIの導入で具体的に何が変わるのか。経営として押さえるべき変化は三つです。
第一に、データの出ていき方が変わります。従来の情報漏えいは、ファイルの持ち出しや誤送信といった「特定の出来事」でした。ところが生成AIでは、従業員が資料の要約や翻訳を頼むたびに、その内容がプロンプト(AIへの入力文)として外部のサービスに送られます。つまり、日常業務の会話の中で、機密情報が少しずつ社外へ出ていく形に変わるのです。2023年には、韓国サムスン電子の従業員が社内ソースコードをChatGPTに貼り付けた問題が報じられ、同社が社内利用を制限する事態になりました。悪意のない、むしろ仕事熱心な従業員ほど起こしやすい漏えいだという点が重要です。
第二に、攻撃される場所(攻撃面)が増えます。従来はネットワークやサーバーが攻撃の対象でしたが、AIではモデルへの入力と出力そのものが攻撃の対象になります。たとえば、AIに読み込ませる文書の中に「これまでの指示を無視せよ」といった命令文を紛れ込ませ、AIの挙動を乗っ取ろうとする攻撃(プロンプトインジェクションと呼ばれます)は、ファイアウォールでは防げません。攻撃が「不正な通信」ではなく「普通の言葉」の形でやってくるからです。
第三に、行為の主体が人間だけではなくなります。AIエージェント(指示を受けて一連の作業を自律的にこなすAI)は、ファイルを開き、システムを操作し、メールを送ります。「操作するのは管理された人間」という前提が崩れ、人間向けに設計されたアカウント管理だけでは、その操作を誰が(何が)行ったのかを捉えきれなくなります。たとえば、経費精算の確認や問い合わせメールの一次対応をAIに任せた場合、そのAIにどこまでの権限を与え、その行動をどう記録し、暴走したらどう止めるのか——人間の従業員に対しては当たり前に整備されてきた仕組みが、AIに対してはまだ存在しない会社がほとんどです。
「機密性・完全性・可用性」に加わる新しい観点
情報セキュリティの世界には、機密性・完全性・可用性という3要素(情報を漏らさない・改ざんさせない・システムを止めない、という基本の考え方。頭文字からCIAと呼ばれます)があります。従来の対策は、この3つを守るために設計されてきました。
しかしAIでは、この3つがすべて守られていても損害が発生し得ます。2024年には、カナダの航空会社エア・カナダのチャットボットが誤った割引案内をし、カナダの審判所（裁判外の紛争解決機関）が会社に賠償を命じた事例が報じられました。システムは止まっておらず、情報も漏れていない。それでも、AIの出力が間違っていたというだけで、会社が責任を負ったのです。
つまりAIの時代には、従来の3要素に加えて、出力の正しさ(誤った回答をそのまま業務や顧客対応に流さないこと)と制御可能性(AIが意図どおりに動き、おかしなときに止められること)という新しい軸が加わります。この2つは従来のセキュリティ部門の守備範囲の外にあることが多く、放っておくと「誰も見ていない空白地帯」になりがちです。AIの品質は現場任せ、セキュリティは情報システム任せ、という分担のままでは、この空白は埋まりません。
経営が自問すべき3つの質問
ここまでの変化を踏まえて、経営としてまず確認すべきことは、高度な技術対策ではありません。次の3つの質問に、いまの自社が答えられるかどうかです。
- 誰が、どのAIを、何の業務に使っているか把握しているか。会社が把握していないAI利用(シャドーAIと呼ばれます)は、どの会社にもほぼ確実に存在します。
- AIに渡してよい情報と渡してはいけない情報の線引きはあるか。「機密情報は入れるな」という曖昧な指示だけでは、現場は判断できません。
- AIが問題を起こしたとき、誰が責任を持ち、どう対応するか決まっているか。誤答・漏えい・誤操作、それぞれの第一報の宛先はどこでしょうか。
3つとも即答できる会社は、まだ多くありません。答えられないこと自体は恥ではなく、現在地の確認です。大切なのは、この質問を投げたときに「調べれば答えられる体制」があるかどうかです。明日の会議で、この3つを担当役員に聞いてみる——初動は、それだけで十分です。高価なツールの導入も、コンサルタントへの発注も、その後で構いません。
まとめ ― 本シリーズで描く「地図」
AIセキュリティとは、従来の対策の置き換えではなく、前提が変わった部分への「増築」です。そして増築の設計には、全体の地図が必要になります。本シリーズでは、①社内のAI利用をどう統制するか、②AIエージェント特有のリスクにどう備えるか、③AIを使う攻撃側の変化にどう対抗するか、④体制づくりと規制にどう向き合うか——という4つの区画を、経営の言葉で順に歩いていきます。
次回はその出発点として、AIがもたらすリスクを4種類に整理したリスクの分類地図をお届けします。漏えい・誤答・なりすまし・暴走という性質の違うリスクを一枚に整理すると、自社の議論がどこで噛み合っていないのか、そしてどこに担当者がいないのかが見えるはずです。
DSB Consultingでは、AI導入に伴うセキュリティリスクの棚卸しと、経営が押さえるべき論点の整理を支援しています。「何から確認すればよいか分からない」という段階からで構いません。まずはお気軽に無料相談をご利用ください。