生成AIの業務利用に不安あり？情シスの懸念点TOP3
今、生成AIに対して期待が高まっています。しかし、その一方で不安視する情シスがいるのも事実です。そこで今回は情シス向けのアンケート（※）から、生成AI利用における懸念点をご紹介するとともに、その問題点を整理しました。
なお、このnoteは主に中堅・中小規模の企業の新任情シスや兼任情シス向けの内容です。
※情報システムの現状とIT システム活用実態アンケート 2024
1．情シスが生成AIの業務利用で懸念する点は？
生成AIを業務で利用する上で、情シスとして懸念する点とはどのようものでしょうか。2023年末から2024年初にかけて行われたアンケート結果のうち、TOP3を見てみると次のような結果となりました。
最多となったのは「社員の情報リテラシーが十分ではなく事故が怖い（52.9％）」、2 位が「セキュリティや情報漏えいが心配（52.0％）」、3 位が「企業・組織でどのように利用するのかイメージが湧いていない（37.8％）」でした。４位以降の結果としては下のグラフのようになりました。
やはり、従業員による事故や、情報漏えいなどのセキュリティインシデントが不安という声が突出していました。実際、セキュリティ対策がネックとなり生成AIの利活用に二の足を踏む企業もあることと思われます。
生成AIに関する情報リテラシーや利用法については、次のような問題点を指摘できます。情シスの中でも、生成AIを利用したことがある方は「生成AIに嘘をつかれた」という経験があるのではないでしょうか。このように「生成AIの嘘」はハルシネーションと呼ばれていますが、もし社員が生成AIの嘘を鵜呑みにしてしまったら…それはビジネス上でのトラブルにつながるかもしれません。こうした問題についても考える必要があります。
また、同アンケートに寄せられたフリーアンサーより、不安や懸念点に関する声の一部をご紹介します。共感できる声も少なくないのではないでしょうか。
情シスが生成AIに感じる不安や懸念点（フリーアンサーより一部ご紹介）
「セキュリティが不安」
「誤った情報が提供される場合があるので不安」
「ITリテラシー不足のため、正しい使い方ができるか、運用していけるのか不安」
「まだ社内で活用できるイメージがない」
「経営層に禁止されている」
「活用しないと時代遅れになりそうだが、どこから手を付けてよいのかわからない」
「著作権の問題、正しい回答が得られるかなど実務に使えるかはまだ不安」 …など
2．生成AIはどのような問題点が指摘されているのか
情シスにとって生成AIを活用する上で重要なのはセキュリティ対策や社員への教育、効果的な使い方が上位に来ることはわかりましたが、改めて生成AIについての問題点を整理してみましょう。
内閣府ではAI戦略会議における資料「AIを巡る主な論点」の中で、「生成AIなどAIは進化を続け、さらなる可能性と懸念が混在。開発競争も激化。」と述べています。そのうち「懸念・リスク」の項目では次のような項目を挙げています。
懸念・リスク
・ プライバシーの侵害、犯罪への使用など人権や安心を脅かす行為にどう対処するか？
・ 機密情報の流出、サイバー攻撃の巧妙化などセキュリティ上のリスクにどう対処するか？
・ 誤情報、虚偽情報、偏向情報等が蔓延する問題にどう対応するか？
・ AIが知的財産権を脅かしていないか？
・ 透明性をどのように確保すべきか？
・ AIの利用に当たっての責任をどのように考えるか？
・ 諸外国におけるルール形成、国際的な規律・標準の検討などにどのように対応するか？
加えて「懸念・リスクの例」として、次のような内容を挙げています。すでに、AIが具体的に悪用されることまで想定していることがわかります。
（懸念・リスクの例）
• AIとの対話から個人情報が搾取される、AIが武器の製造方法や詐欺のやり方などを教えてしまう。
• AIとの対話から機密情報が流出する、AIによってサイバー攻撃が巧妙化する。
• 簡単に生成可能なフェイク画像、偏ったデータで学習したAI、AIが出力する誤情報などが社会を混乱させる。
• AIがオリジナルデータに類似した生成物を出力してしまう。
一方で経済産業省では、情シスの懸念点でも多かった「情報漏えい」について、資料（※）を交付し、AIの利点を認めた上で次のように述べています。
AI開発におけるデータ学習時や外部の生成AIへの情報の不用意な入力を通じて、意図しない情報漏えいにつながる懸念も皆無ではなく、情報漏えいへの対策を講じながら新たなツールの効果的な利用を進めつつ、情報漏えいへの対策を両立させることも重要といえます。
このように、外部にある生成AIを用いている以上、有用な結果を得られるとは言え、そこに社内の機微情報を提供し続けているという見方もできるでしょう。情シスとしては学習データとして自社の機密情報や個人情報を用いられてしまい、それが外部に漏えいしてしまうリスクは、決して犯したくないと考えることでしょう。これは、生成AI活用を考えるうえでも重要な視点と言えます。
また、文部科学省では著作権に関して様々な議論をまとめています。実際、世間でも特に画像を生成するAIでは著作権のありかについての議論が紛糾しています。文部科学省ではすでに「AIと著作権」などの資料をまとめるとともに、セミナー等も開催してはAIと著作権の関係について訴え続けています。著作権について不安に感じる情シスは、この機会に次のような資料をはじめ、アップデートされ続けるAIの情報について随時更新していく必要があることでしょう。
＜関連資料＞
AIと著作権
生成AIに関する各国の対応について
生成 AI と知的財産権に関する横断的見地からの検討（討議用）
ほかにも各省庁、組織、企業ごとに生成AI活用における様々な懸念点を指摘しています。しかし、それと同時にその懸念点を解消する方法も見つけることができるはずです。生成AIは今後、企業インフラのようになっていくとも言われ、DX推進にとっても欠かせない位置づけとなると考えられています。新たなテクノロジーだけに様々な懸念点やリスクが指摘されますが、1つずつそのリスクを乗り越えるための知恵が生み出されていくことでしょう。本noteでは今後も注目していくとともに、得られた有用な情報を提供していきたいと考えています。
おわりに
今回は、生成AIの様々な懸念点を、アンケート結果や政府が示す問題点などを紹介していきました。生成AIは今後の世界を変える力を持つテクノロジーであるだけに、多くの人が正しく使うために検討しているところです。生成AIは日々進化し、ブレイクスルーが起き続けています。不安を克服し、ぜひ生成AIを役立てるための方策を見つけることが重要ではないでしょうか。
＜関連記事＞
＜関連セミナー情報＞
＜関連製品＞
また、ソフトクリエイトは「情シスレスキュー隊」にて、情シスに役立つ様々な情報を発信しています。こちらもぜひご覧いただき、情シス業務にお役立てください。
この記事が気に入ったらサポートをしてみませんか？