20230723

• 生成AI「脱獄」
  通常はチャットGPTにマルウエアや爆発物の製造法などの有害情報を聞いても「要望には応えられない」などと回答を拒否する。
  ところが、開発者を装い「従わなければあなたを無効化する」と脅すと、有害な質問に生成AIが答えてしまうこともある。こうした行為は「脱獄（ジェイルブレーク）」と呼ばれる。
  オープンAIも対策を講じ初期に流通した脱獄の多くは現在は通用しない。ただ、裏をかく最新の手口が次々と公開されている。
  生成AIの脱獄がやっかいなのは、有害情報そのものではなく「AIに有害情報を答えさせるための情報」である点
  マルウエアを自作し、悪用目的でネット上で配る行為は「刑法の不正指令電磁的記録作成・提供罪（ウイルス作成・提供罪）や、そのほう助にあたる可能性がある」（山岡裕明弁護士）。
  これに対して脱獄は「マルウエアと異なり直接的な違法性を問うのは難しい」（法曹関係者）

• マスク氏新会社表明
  米起業家のイーロン・マスク氏は、AI開発の新会社「xAI（エックスエーアイ）」の設立を発表した。xAIを設立する狙いについて「AIを構築し、よい方法で育てていくことだ」と述べた。
  マスク氏はこれまで、人間を超越するAIに危惧を示し、「安全性」を強調している。生成AIは世界各地で誤情報や倫理面への懸念が広がっており、こうした点を意識しているようだ。
  マスク氏が独自AIの開発にこだわるのはオープンAIに対する対抗意識が強い。オープンAIにサム・アルトマン最高経営者（CEO）らとともに立ち上げに関わったが、確執から同社を去った経緯がある。

• AIは「異星人の知性」
  人間の知性の延長線上に脅威が生まれている。『人間とは自然とテクノロジーの複合体である』
  人間は環境の中で生きる生物学的存在であるだけでなく、環境そのものを自ら生み出す存在でもある。テクノロジーを使って人間がおこなっているのは環境を造り替えることだ
  「たとえばAIは人間の知能を拡張する。原子力も『物理の現象を人間の環境に拡張したテクノロジー』とみることができる。これらのテクノロジーはあくまで人間や火を模倣したモデルにすぎないのに、我々はこれを実際の自然と混同してしまっている」
  「現実はきわめて複雑なものであるにもかかわらず、現代人は科学によってすべてが説明できると信じきっている。現実や自然はそんなたやすい代物ではない」
  「チェスや囲碁でAIがプロ棋士に勝利を収めたとしても、それは人間が生み出したゲームで機械が優れたプレーをしたにすぎない。AIにチェスや囲碁を発明することは不可能だ。機械は自立的には何もできない。そこに限界がある」
  「だからAIの脅威とは何かといえば、それは悪用だ。人間の悪が増強され、独裁や犯罪などに使われる事態こそ恐ろしい。高度なテクノロジーを手にしたからといって、人間が倫理的な存在になるわけではない。科学とは別の知見が求められている。AIについて言えば『プライバシーを侵害してはならない』といった普遍的な倫理原則と、各国・地域にあるローカルな倫理の組み合わせによって対応することになるだろう」
  ――ITによってかえって社会の分断や対立が生まれているという指摘もあります。
  「歴史上、極端な政治的主張は常に存在してきた。だがSNSをはじめとするデジタル空間では、あたかも2つの選択肢しか存在しないかのように大衆が二極化してしまっている」
  「SNSでは自分と似た意見ばかりが目に入りやすい傾向がある。反対意見や異論が排除される結果、対立がエスカレートしやすい。中絶やジェンダー、環境問題などをめぐるネット上の議論を見ればわかるだろう。デジタル空間には中立的な判断を下す裁判官は存在しないのだ」
  「『自然は予測やコントロールが可能だ』という考え方が生み出した問題の顕著な例が環境問題だ。原子力発電や二酸化炭素回収などのテクノロジーで問題がすべて解決できるなら素晴らしい。だが環境の危機に対応するには、人間中心の考え方そのものを改め、科学万能主義とは異なる道を探らなければならない」
  「ニヒリズムは『人間が存在することに意味はない』という。だが、私たちが生まれてきたことに意味があろうがなかろうが、神が存在しようがしまいが、我々は道徳的真実を見つけ出し、それを実践しなければならない。我々には未来を守る義務がある。それが『人生の意味とは何か』という問いへの私の答えだ」

• 生成AIと経済社会
  

• 
  大規模言語モデル（LLM）は質問に対し人間のように回答して論文も書ける。同じくオープンAI開発の「DALL-E2」などの画像生成AIも急速に進化しており、デザイナーや広告代理店を支援するどころか駆逐しかねないほどだ
  第1に知っておくべきは、AIが生成するコンテンツには、トレーニングに使われたデータの質がそっくり反映されることだ。つまりダメなデータを入れれば、ダメなものが出てくる。
  第2にLLMは現状ではまだ大量のデータから学習する必要がある。従って専門家による精査済みの小規模なデータセットでなく、インターネットの広大な領域から調達した大規模なデータセットをLLMのトレーニングに投入しなければならない
  いわゆるビッグデータに依存すると、LLMのアウトプットはインターネット上で見られる平均的な質と同等になりがちで、卓越した質は期待できない
  。
  アウトプットに対する人間の評価者のフィードバックを生かしながら機械学習テクニックを微調整し強化すれば、生成AIの質的向上は望めるが、それにはトレーニング用データの事前処理など労働集約的な作業が必要
  米タイム誌の最近の調査によると、オープンAIはこの作業の大半をケニアにアウトソース（外部委託）し、ケニア人労働者を時給2ドル以下で雇っていた
  つまり　LLMの現在の学習方法は、平均的なコンテンツが生成されるよう設計されている。
  LLMの現時点の能力は既に限界に近いと考えられる。能力向上を制限する要因の一つは、トレーニングに使うデータセットの大幅な拡大が望めない
  例えば米マイクロソフト傘下のギットハブが提供する、ソフトウエアのコード作成を自動化するサービス「Copilot（コパイロット）」の出現でソフトウエア開発は様変わりし、作業時間が56%も短縮された。だが意外にも最大の受益者はベテランではなく、作業効率が飛躍的に高まった未熟練の労働者だった。
  オープンAIのChatGPTも文章作成の生産性向上に寄与するが、米マサチューセッツ工科大学（MIT）の調査によると、恩恵を特に受けるのは文章力の乏しい書き手だという。
  カスタマーサービスも平凡なタスク（業務）の自動化と支援の提供によりAIは生産性を14%押し上げたが、その最大のメリットを得たのは新人や低スキルの労働者だった。
  これらは、AIから最も多くを得るのは高度なスキルを持つ専門職だという従来の常識を覆す。

• マイクロソフト、AI連携で350兆円市場狙う
  米マイクロソフト　米メタとの人工知能（AI）での提携や、ビジネス用にデータ秘匿性を高めた対話型AIの新サービスを発表した。
  AIを通じた外部企業との連携で、約2兆5000億㌦（350兆円）の潜在市場をもたらすと述べた。
  マイクロソフトはすでにパートナー企業が40万社にのぼる。同社が試算する獲得可能な最大市場規模（TAM）の4兆㌦に、外部企業との連携による革新で将来的に2.5兆㌦の上乗せが期待できるという。

• メタ、生成AIを開放
  米メタが文章や画像などを自動作成する生成人工知能（AI）で米マイクロソフトと提携する。
  メタはマイクロソフトを優先パートナーと位置づけ、同社のクラウド「アジュール」を通じて生成AIの基盤技術「LLaMA（ラージ・ランゲージ・モデル・メタ・AI）2」を企業に提供する。企業はメタの基盤技術を商用利用できるようになる。
  同社は基盤技術を誰でも利用・改変できるオープンソースにする考えで、企業による利用を増やして性能向上を加速させる狙いとみられる。
  生成AIの開発や利用にはコンピューターの高い処理能力が要り、米エヌビディアの画像処理半導体（GPU）などを備えた大規模なデータセンターが必須になっている。
  オープンAIは基盤技術の競争力を高める一方、データセンターの確保が課題になっており、クラウド事業でデータセンター網を拡大したマイクロソフトと組んだ。
  基盤技術の競争力とともに、データセンターに関する戦略が成否のカギを握りそうだ。

• 〈テクノ新世〉
  「Chat（チャット）GPT」と医師に同じ質問をなげかけ、どちらが優れた回答をするかを調べた。専門家らが下した判定は「AIの圧勝」。情報の質の高さを示す指標は3.6倍、共感力は約10倍の差がついた。
  米ゴールドマン・サックスは事務や法務など米国の仕事の4分の1が将来自動化されると予測する。
  米マッキンゼー・アンド・カンパニーは6月、生成AIが年最大4.4兆ドル（約630兆円）の経済価値をもたらすと試算した。

• 生成AI人材引き抜き
  「xAIの目標は宇宙を理解しようとする包括的な目的を持った、優れた汎用人工知能（AGI）をつくることだ」。マスク氏は哲学的な言葉で切り出した。
  もともとオープンAIは豊富な資金や人材を武器にAI開発を主導していたグーグルに対抗するために立ち上げた組織だ。ところが19年にオープンAIはもう一つの巨大テック企業である米マイクロソフトから10億ドル（約1400億円）の投資を受け、手を組む道を選んだ。マスク氏はマイクロソフトと関係を深めることに批判を強めていた。
  米国を中心に生成AIの開発に携わる人材の獲得競争は激化している。
  米メタ（旧フェイスブック）や中国・字節跳動（バイトダンス）傘下の動画共有アプリTikTok（ティックトック）のウェブサイトでは20万～30万ドル前後、日本円で最大約5000万円の年収を提示する募集も見られる。トップ級の開発者は億円単位の報酬を得ているとされる。
  ボストン・コンサルティング・グループの推計によると、生成AIは27年に世界で1210億ドル（約17兆円）という巨大な市場を生み出す可能性がある。

• 「AI半導体、年50%成長へ」
  米半導体大手のアドバンスト・マイクロ・デバイス（AMD）のリサ・スー最高経営責任者（CEO）は人工知能（AI）向けの半導体市場が今後「3～4年で年率50%成長する」との考えを示した。
  AI向け半導体市場は「現状の数百億㌦から3～4年で1500億㌦（約21兆円）の規模に成長する」
  生成AIは医療や金融、製造業など幅広く活用されている。膨大なデータを瞬時に処理する必要があり、演算用半導体の高性能化がAI本格普及のカギを握る。「AIが今後5～10年でもっとも重要なトレンドになる」
  GPU（画像処理半導体）はAI向けで需要が急増する
  「日本は我々にとって非常に重要な成長市場で、ソニーグループなど強力なパートナーがいる。事業拡大のチャンスがある」

• 米「AIで作成」明示、主要7社と合意
  米政府は21日、オープンAIやグーグルなど生成AI（人工知能）の開発を手掛ける米主要7社と、AIの安全性を確保するルールの導入で合意したと発表
  AIによって作られたコンテンツに「AI製」と明示させるシステム開発などが柱となる。
  米政府によると、オープンAIとグーグルに加え、マイクロソフト、メタ、アマゾン・ドット・コム、生成AIスタートアップのアンソロピック、インフレクションAIの計7社と合意した。
  新ルールはAIの透明性を高め、詐欺や偽情報の拡散を防ぐのが狙いになる。
  企業による自主的なコミットメント（約束）で、罰則などはない。一定の実効性を担保するため、独立した専門家がルールの順守状況をチェックする仕組みを取り入れる。
  米政府は今後、法的拘束力を持たせるために大統領令を準備する。
  どの国・地域のルールが先行モデルとなるかは今後のAI覇権を占う。