業務で生成AIを利用するときに気を付けたいこと

お世話になってます、橋本です。
以前ChatGPT活用セミナーに登壇させていただき、いろいろなお声をいただくようになりました。（セミナーの内容はこちら）今回はその中でもよく話題になる「安全面」について解説したいと思います。

生成AIのおさらい

生成AIは、大量の情報（データ）を学び取り、それを元に新しい内容を作り出すツールです。例えば、たくさんの小説を読ませると、新しい物語を作れるようになります。また、たくさんの絵や写真を見せると、新しい絵や写真のようなものを作ることができます。このAIの学び取る過程を「学習」と言い、新しい内容を作り出す過程を「生成」と言います。

1. 学習: 大量のデータ（例：文章、画像、音楽）をAIに読ませ、その中のパターンや特徴を記憶する。
2. 生成: 学習した知識を元に、新しい内容を作り出す。

この生成AIは、文章、絵、音楽、映像などそれぞれ特化したサービスとして存在しており、多様な場面で使われています。

生成AIに対する不安や懸念

では、そんな生成AIにどのような不安が寄せられるのか。私なりに整理してみました。

• 個人情報の安全性
  生成のために入力した情報をどう扱っているのか、プライバシーが守られているのか。

• 正確な情報かどうか
  生成AIが間違った情報を出力する。人をだまそうとしているのではないか。

• 仕事の奪取
  生成AIが人の仕事を代わりにできるようになれば、仕事がなくなるかもしれない。

これらの不安を解消するためには、生成AIの仕組みや限界を理解し、適切な使い方をすることが大切です。

生成AIを利用するときに気を付けたいこと

では、前述した不安を解消するための利用時の注意点を解説していきます。

個人情報を守る

そもそも、個人情報や機密情報は入力しないようにするのが一番です。例えば、「シアンスの今後の経営戦略はどうしたらいい？」という質問であれば「50人規模の地方のIT企業の今後の経営戦略はどうしたらいい？」など、固有名詞を使わない表現で活用しましょう。

また、サービスの利用規約を読み、入力情報、生成情報がどのように扱われるのかを確認しましょう。サービスによっては入力情報を学習に使う使わない、入力情報や出力情報の保存方針が異なりますし、登録プランで扱いが変わることもあります。

AIは正しさをチェックできない

大前提として、AIが正解を答えるという思い込みが間違いです。前段で紹介したように、学習からそれっぽいものを生成するという仕組みです。ですから、AIも正当性を重要視しておらず、入力に基づいて学習内容からそれっぽい生成を返しているだけとなります。遠目で見るとプロが書いたようなイラストなのに指が6本あるとか、人間だったら絶対に気づくことも容赦なくAIは出力します。一部の生成AIではソース（情報源）を添えて回答することで正当性を表現するなど工夫していますが、結局はアルゴリズムでしかなく、本当に正しいかはその出力を受けた人間しか判断できません。

つまり、答えのある問題や私たちのほうが詳しい質問はそもそも向いていません。答えがない問いについて、それっぽい相談に乗ることができるという認識で付き合うことが望ましいです。また、入力した情報を基に生成するため、前提条件や暗黙の了解は意外と通用しません。つまり自身の理解度、言語化能力以上の出力はでてこないと言っても過言ではありません。

人間の仕事はなくならない

前述の通り、生成AIによる出力そのものは期待通りにならないことのほうが多いです。正当性や細部の確認、利用可否など、人間による「判断」と「決定」が必要になります。つまり、仕事そのものが奪われるのはまだ当分先の話になるので安心してください。

生成AIは利用価値があるのか？

さて、生成AIに対する不安を解消していくと、魅力的で画期的なイノベーションではなかったとがっかりされる方もいますし、そもそもの不安によって利用をやめた方も多いと思います。

しかし、生成AIの登場によって人間の仕事は進化する可能性があります。例えば、新しいイベントの企画案やブログネタなど、アイディア出しは得意です。人間は調べる時間をAIに委託して、AIが生成したアイディアに対して「判断」と「決定」をすることが可能になります。これによって、人間はもっと生産的なことに時間を使うことができます。これが、生成AIの付き合い方かなと思っています。

次回の記事では、私がどのような仕事で生成AIを活用して「判断」と「決定」をしているのかを書きたいと思います。
以上、引き続きよろしくお願いします。

関連サービス

• 

  広報体制構築サポート

• 

  保守・運用サポート