AIのハッキングを防止するには（VentureBeatの記事）

写真出展：VIN JDによるPixabayからの画像https://pixabay.com/ja/users/jaydeep_-7740155/?utm_source=link-attribution&utm_medium=referral&utm_campaign=image&utm_content=3112539

　2022年4月22日にVentureBeatは、AIに対するハッキング防止に関する記事を発表した。内容は、AIに内在する投入データの汚染などの危険性について注意喚起し、AIを整備する前段階からセキュリティ基準などの制定や障害復旧措置の策定の重要性を訴えるものである。
　過去に何度かAIハッキングに関する記事を扱ってきたが、その対策についてのヒントとして、その概要についてご紹介させていただく。

↓リンク先（How to protect AI from cyberattacks）
https://venturebeat.com/2022/04/22/how-to-protect-ai-from-cyberattacks-start-with-the-data/

１．本記事の内容について
　・人工知能（AI）は、サイバーセキュリティにとってゲームチェンジャーになりえる。システムやデータの管理・監視能力を飛躍的に増大させ、復旧能力も強化されることになる。しかしAIもデジタル技術であり、ウイルス感染の恐れもある。世界中のあらゆるシステムがAIに依存するようになるほど、セキュリティが強化される一方で、AIが感染した場合の損害も深刻になるのである。
　・従って起業家はAIを整備する際に、経営戦略としてどの程度配備するのか、その場合どこにリスクが存在し、どのように軽減していくのかを検証しなければならない。現在の所最も広範に流布している攻撃手法は、アルゴリズムによるデータの汚染である。多くの場合は偽の情報や悪意あるデータを挿入し、データを偏らせるのである。
このため、インターネットに接続しているAIは、時間の経過とともに感染の可能性が高まり、その効果が永続的に継続することになる。最善の対策は、インターネットに接続する前に、アルゴリズムやデータ投入処理を最適化しておくことということになる。
　・AIの最大の弱点は、大量のデータを必要とする点である。このため、AIそのものが攻撃されなくても、データを攻撃するのみでウイルスに感染したのと同じ状態にすることができる。このような攻撃により、自動運転車の走行をコントロールし、企業活動を混乱させることが可能になるということである。
　・中でも画像認識機械学習は、この手の攻撃に脆弱である。スタンフォード大学の暗号研究者であるボネ教授によると、敵対的サンプリングというピクセルレベルでのデータ操作により、機械学習モデルを混乱させることが可能であるとされる。これらのサンプリングは人間の目には検知不可能であるが、アルゴリズムの在り方を一変させる。
  ・AIをハッキングから防止するには、以下の３つの手順が重要である。
　① データ環境全体を最も厳格なセキュリティで保護する。
　② AI処理のログを全て保存し、後に監査ができる状態にしておく。
　③ AI関連のアクセスを強力に管理し、認証を厳格化する。
　加えて、機械学習のセキュリティ基準やポリシー策定、技術者教育、継続的なリスク評価などの長期的な戦略目標を追及していくことが必要となる。
　・100%安全なデジタルシステムは存在せず、AIに内在するウイルス感染の危険性は存在し続ける。既存のシステムと同様に、攻撃の手段や可能性を制限しつつ、損害を受けた場合における早期復旧を可能とするような措置を構築するという両面作戦が必要なのである。

２．本記事読後の感想
　　タイトルの割にはやや物足りない内容だった。過去に何度かAIのハッキングに関する記事を紹介してきたが、この新たな脅威に対してまだ有効な対策が存在していないということの反映と言えるだろう。
　　いずれにしても重要なことは、技術そのものに対する理解である。新しい便利なものが導入されると、内容を理解することなく依存してしまうということが多々ある。スマートフォンのアプリなどがその典型であり、コードやプライバシーポリシーを確認して利用している人はほとんどないだろう。こういった行動が最も危険な要素になるのだが、多くの人はセキュリティソフトの導入などで何とかなると勘違いしているのではないだろうか。
　　自分の身は自分で守る、これが最も重要な要素なのだが日本人はこの辺りの意識が希薄である。企業も同様であり、一定程度セキュリティソフトなどの外注しつつも、自社による独自の対策も怠るべきではない。今後もこういった記事を紹介し、少しでも日本人のセキュリティ意識の慣用に努めたいと思う。

　英文を読んでわからないという方は、メールにて解説情報をご提供させていただきます。なにぶん素人の理解ですので、一部ご期待に沿えないかもしれませんので、その場合はご容赦願います。当方から提供した情報については、以下の条件を守ったうえで、ご利用いただきますようよろしくお願いいたします。

(1) 営利目的で利用しないこと。
(2) 個人の学習などの目的の範囲で利用し、集団での学習などで配布しないこと。
(3) 一部であっても不特定多数の者が閲覧可能な場所で掲載・公開する場合には、出典を明示すること。（リンク先及び提供者のサイト名）
(4) 著作元から著作権侵害という指摘があった場合、削除すること。
(5) 当方から提供した情報を用いて行う一切の行為（情報を編集・加工等した情報を利用することを含む。）について何ら責任を負わない。