大手飲料メーカーが、取締役会にAIを「参加させる」というニュースが流れました。ニュースにはならなくとも、壁打ち相手として生成AIを活用されている社長は非常に多いのではないでしょうか。私が試している範囲でも、かなりの対応をしてきますし、自分とは違う視点でのものの見方をしていることもあるので、ハッと気がつかされたことも何回かあります。しかし、野放図に生成AIを経営に参加？させていも良いものか、いくつか注意するべき点もあります。

何はなくとも機密情報の保護

皆さんがお使いの生成AIは、おそらくクラウドサービスのものだと思います。「クラウド」に対して反対語は「オンプレミス」ないし「ローカル」となりますが、クラウドではない環境で生成AIを動作させることは、ハイエンドのPCやワークステーション環境を用意し、それに様々なソフトウェアをセットアップしてゆかねばならず、専門知識の無い人が構築しようとすると無理があります。クラウドのものであれば、課金の設定をするだけで使えるので、利用障壁はほぼ存在しません。

さて、そんな「簡単に使い始めることができるクラウド生成AI」ですが、これを仕事に使おうとする場合に一番気をつけなければならないこと、それが「機密情報の保護」になります。

何かをAIに相談する場合、その前提条件などのデータはAIに与えなければなりません。企業経営の為のアドバイスを受けたいのであれば、その前提となる数字やデータをAIにアップしなければ、まともな回答が得られるハズもありません。そのため、商品別の売上推移データや、顧客セグメント情報などのデータをアップロードすることもあるでしょう。クラウド型の生成AIは、それを適切に保護する義務は存在しますが、それでも…

　生成AIサーバーにアップロードしたデータは、一時的にであっても残る

　それらのデータを使って生成AIが学習をするかもしれない

というリスクがあります。サーバーにデータが残っていれば、それが外部から攻撃されて奪取される可能性がゼロではなくなります。また、生成AIごとの利用規約で定められている「ユーザーが提供したデータの扱い」は生成AI提供会社によってポリシーが違いますし、プランによっても異なります。さらに、「規約上学習に使われない」と言われていても、それはあくまでも「規約による約束」でしかなく、物理的に保護されているとは言いがたい状態です。

大体の場合は「規約で保護」されていれば良いかもしれませんが、例えば顧客の個人情報など、絶対に漏洩してはならない情報を、この「規約」だけを信じてアップロードしてしまうことは、少し軽はずみな行為であることは事実でしょう。

このように、経営に関わる機密情報をアップする、という行為については、残存リスクを考慮すると、慎重にならざるを得ないのが現状だと思います。

このリスクに対する対応策は・・・生成AIをローカルで動かす、ぐらいしかありません。

意思決定の前の確認は必須だ

人間の取締役でも、誤解にもとづく発言や、間違ったデータを提示してしまうこともあります。生成AIの場合、それらをあたかも事実であるかのうように堂々と提示してしまうことがあるので要注意です。経営会議用のAIですから、各種の情報をあらかじめセットアップされた状態にし、それを元に回答するように設定されているはずですが、それでも、

　過去の情報に間違いが含まれている可能性は否定できない

　生成された回答が正確であるか確実とは言えない

という状態ですので、回答は疑ってかかるべきです。つまり、質問に対して生成AIが回答した内容の真偽を確認するべきだ、ということになります。その方法は、生成AIに違う角度で同じ質問を繰り返し、矛盾した回答をしないかどうか確認したり、裏付けとなる情報を提示させてそれを確認したり、という方法になります。

そんな回りくどい使い方はしたくない、というご不満も聞こえてきそうですが、生成AIを経営判断に使うという重要な局面である以上、避けては通れないことだと思います。

——–

生成AIを経営判断に使う。これは時代の流れですし、積極的に使ってゆくべきです。何よりも過去の膨大なデータを生かして経営アドバイスを得られることは、シーンによっては非常に有効なことでしょう。しかし、そこにも一定のリスクは残存します。何事にも完璧など無いのだ、ということを常に意識して使って行きたいものです。