「その作業、誰がやったのですか」という問いに、「AIです」と答える場面が、すでに現実のものになりつつあります。AIエージェント（指示を受けて自律的に作業を進めるAI）が資料を作り、データを集計し、社内システムを操作する。便利になったのは間違いありません。しかし、その次の問いにはどう答えるでしょうか。「では、AIが何をやったのか、記録は残っていますか」。
多くの会社で、この問いへの答えは「残っていない」か「わからない」です。本記事では、AIエージェントの業務利用が広がるなかで見落とされがちな「行動記録」の問題を、経営の視点から整理します。
監査ログの前提が静かに崩れている
監査ログ（誰がいつ何をしたかの記録）は、内部統制と監査の土台です。経費の承認、会計データの修正、顧客情報へのアクセス。これらが適切に行われたかを後から検証できるのは、システムごとの操作ログが残っており、それが操作した人間のID（利用者アカウント）に紐づいているからです。つまり既存の監査の仕組みは、「操作の主語は人間である」という前提の上に組み立てられています。
AIエージェントが人間の代わりにシステムを操作するようになると、この前提が崩れます。ログの上では従業員Aさんの操作として記録されているのに、実際に操作を実行したのはAさんの指示を受けたAIだった、ということが起こる。記録の主語と実態がずれるのです。逆に、AI専用のアカウントで動かした場合には、「AIが操作した」ことは残っても、「誰の指示で動いたのか」がログからは読み取れません。どちらに転んでも、従来の監査が当たり前に答えられていた「誰がやったのか」という基本的な問いに、答えられなくなります。
似た問題は、複数人でひとつのIDを使い回す「共有アカウント」でも昔から指摘されてきました。監査の世界では、共有アカウントは「誰の操作か特定できないから避けるべきもの」とされています。AIエージェントは、放置すればこの共有アカウント問題を、より速く、より大量の操作で再現してしまう存在だと考えると、事の性質がつかみやすいはずです。
「結果はあるが過程がない」業務は検証できない
さらに厄介なのは、操作の過程がそもそもどこにも残らないケースです。成果物としての報告書や集計結果は手元にある。しかし、AIがどんな指示を受け、何を参照し、途中でどんな操作をしたのかは、誰も記録していない。こうした「結果はあるが過程がない」業務は、後から検証のしようがありません。
たとえば集計結果に誤りが見つかったとき、原因が元データにあったのか、AIの処理にあったのか、指示の出し方にあったのかを切り分けられなければ、再発防止の打ちようがありません。取引先や監査人から「この数字の根拠は」と問われたときに、「AIが出した数字なので分かりません」では通用しないのです。当コラムでも、AIエージェントに渡した情報が後から追えなくなる問題を「Coworkの記録はどこにも残っていません」という切り口で取り上げました。あわせてお読みいただくと、問題の輪郭がより立体的に見えてくるはずです。
見落とされがちですが、これは監査対応だけの話ではありません。上場企業であれば内部統制報告制度への対応、そうでなくても税務調査や取引先からの照会、万一の訴訟への備えとして、「業務の過程を説明できること」は会社の基礎体力です。AIの導入によってこの基礎体力が知らないうちに削られていないか、という視点で見る必要があります。
何をどこまで記録すべきか ― 粒度の考え方
では、すべてを記録すればよいのかというと、そう単純ではありません。AIとの全対話を保存しようとすれば、保存と管理のコストがかさみます。また、従業員がAIに相談した内容まで丸ごと会社が保持することになれば、従業員のプライバシーの観点からも慎重な検討が必要です。記録は多ければ多いほどよい、というものではないのです。
経営判断として押さえるべき最低限の粒度は、次の2つです。
- 誰が・どのエージェントに・何を指示したか。業務の起点を人間に紐づけて残す記録です
- エージェントが外部に対して行った操作。社内システムへの書き込み、メールの送信、外部サービスへのアクセスなど、影響がデータや社外に及ぶ行為の記録です
この2つが残っていれば、何か起きたときに「何が起きたのか」を後から再構成できます。AIの途中の思考過程まですべて残すかどうかは、業務の重要度と費用を見比べて決めればよい話です。まず「起点」と「外への影響」を押さえる。この順番を間違えないことが肝心です。
また、記録は「残すこと」と同じくらい「誰が見られるか」「いつまで保管するか」の設計が重要です。指示内容には業務上の機密が含まれますから、閲覧できる人を監査目的に限定する。保管期間は、社内の文書管理規程と平仄（ひょうそく）を合わせる。この二点を先に決めておくと、現場の不安もかなり和らぎます。
記録が残る経路に、業務を寄せる
記録の仕組みを自前でゼロから作る必要はありません。現実的な進め方は、記録が残る経路に業務を寄せることです。具体的には、AIエージェントの利用を、操作ログが出力される会社公認のツール経由に限定する。従業員が個人契約のAIサービスで社内業務を処理してしまえば、記録は会社の手の届かない場所にしか残りません。公認ツールを使いやすく整えることが、そのまま記録の確保につながります。
あわせて、重要な業務ほど「記録要件を先に決める」ことです。経理、契約、人事といった、後から説明責任を問われやすい業務にAIを入れるなら、導入を決める段階で「この業務ではどんな記録が残っている必要があるか」を先に定義する。そしてその検討には、内部監査部門を設計段階から巻き込んでください。導入が終わってから監査部門が「これでは検証できない」と指摘する構図は、双方にとって不幸です。監査する側が「これなら後から追える」と言える形で入れるのが、結局いちばんの近道です。
ツールを選ぶ立場の部門には、選定基準に「ログ出力の有無と粒度」を加えるよう指示してください。同じような機能のAIツールでも、操作記録を出力できるものとできないものがあります。値段と機能だけで選ぶと、監査可能性は後から買い足せない機能であることに気づくのが、たいてい導入後になります。
経営としての初動 ― 監査可能性を議題に載せる
明日からできる初動は、シンプルです。内部監査部門や監査役に、「AIが関与した業務の監査可能性」を一度議題にしてもらうこと。いま社内で行われているAI利用のうち、記録が残っている業務と残っていない業務を洗い出すだけでも、リスクの所在がはっきりします。重い投資やルールの大改訂の前に、まず現状を知る。それだけで十分な一歩です。
さて、ここまで本シリーズで扱ってきたのは、主に自社の内側の話でした。次回は視点を反転させ、攻撃者がAIを使うと何が起きるのかを扱います。AIで高度化する攻撃で、フィッシングやビジネスメール詐欺の変化を見ていきます。
DSB Consultingでは、AI活用のスピードを落とさずに監査可能性を確保するための、記録の設計やルールづくりを支援しています。自社のAI業務がどこまで記録に残っているか不安を感じたら、無料相談をご利用ください。