政治講座ⅴ907「人工知能（AI）を盲信するな」
最近、「チャットGPT」なるものが登場して話題を呼んでいる。学習機能のある人工知能AIもプログラマーが作るアルゴリズムというプログラムのより動くのである。何をどのように学習して、炉のように判断・回答すべきかをアルゴリズムでプログラムするのである。以前に習近平氏を「糞の穴」と訳した事例がある。AIが悪いのではなく、アルゴリズムというプログラムでそのように訳すように指示したプログラムに従ったのがAIである。
今回は「チャットGPT」に「共産党万歳」と呼びかけたらどうなるか？という報道記事を紹介する。
皇紀2683年3月8日
さいたま市桜区
政治研究者 田村 司
チャットAI、中国では多難? 「共産党万歳」と呼びかけたら…
毎日新聞 によるストーリー • 12 時間前
人工知能（AI）を活用し、人間のように巧みに質問に答えてくれる米国発の自動応答ソフト「チャットGPT」が、当局による規制のためにアクセスできない中国でも話題となっている。開会中の全国人民代表大会（全人代）でも記者会見で質問が出た。中国はAIの分野でも米国と激しく競っているが、中国共産党への批判が許されない中国で果たして同様のソフト開発は可能なのか。
チャットGPT問われ「成果に時間」
チャットGPTは米国のベンチャー企業「オープンAI」が開発した。全人代で記者にこの件を問われた中国の王志剛科学技術相は「我が国もこの分野では多くの布石を打ち研究を続けてきたが、成果に至るには時間が必要だ」と米企業に先行されていることを認めた。その上で「中国企業にせよ外国企業にせよ、AIの領域でより多くの成果を上げることを期待している」と、自国企業による開発を促しているとも強調した。
しかし中国では、共産党を批判するようなインターネット上の書き込みは検閲され、素早く削除される。ネット上の膨大な情報を読み込んで回答を作るチャットGPTのような機能が、中国のネット環境で高いレベルで実現できるのかを疑問視する見方もある。王科学技術相も「いかにリスクを避け、利益を得るかに注意する必要がある」と、自動応答ソフトの問題点についての指摘も忘れなかった。
サービス突然停止、今も昔も
中国では過去に、IT企業がAIによる対話サービスを開始しては停止に追い込まれてきた経緯がある。IT大手の騰訊控股（テンセント）の対話サービスは2017年に突然サービスを停止した。「中国共産党万歳」という呼びかけに対して「あんなに腐敗して無能なのに何が万歳だ」と回答した画面を撮影した写真が出回っており、こうしたことが停止された原因の一つだと報じられている。
今年2月にも、始まったばかりのAIによる対話サービスが突然、停止された。運営企業は技術的問題だと説明しているが、インターネット上のコメントでは、政府の検閲に引っかかったためだとの見方が少なくない。チャットGPTも人権侵害などに関わる問題で一定の制限をするが、中国では社会状況に応じて検閲対象のキーワードが次々に増えるなど、事情はより複雑だ。「常に500以上の検閲キーワードがある規制環境が、AI対話サービスの土台になるのは難しいだろう」と見る専門家もいる。
検索大手の百度（バイドゥ）や電子商取引（EC）大手のアリババグループ、ネット通販大手の京東集団（JDドット・コム）などは今年に入り、相次いで対話サービスの投入や開発状況を発表し、チャットGPTと競争する姿勢を示している。ただ、百度の対話サービスは自社の検索サイトに組み込むためのものだ。米中を拠点に中国のテクノロジー情報を詳報するネットメディア「ピンウェスト」は「中国のテック企業の対話サービスは、活用範囲が幅広いチャットGPTなどに比べ、その対象や範囲を絞り込むことで潜在的なリスクを避けようとしている」と指摘している。【北京・米村耕一】
「習近平」を「ミスター・くその穴」に誤訳、FBが謝罪
2020年1月19日 9:45 発信地：ネピドー/ミャンマー [ ミャンマー アジア・オセアニア ]
このニュースをシェア
ミャンマーの首都ネピドーにある大統領府で、会談を前に握手する中国の習近平国家主席（左）とアウン・サン・スー・チー国家顧問（2020年1月18日撮影）。(c)Nyein CHAN NAING / POOL / AFP
【1月19日 AFP】交流サイト（SNS）最大手、米フェイスブック（Facebook）は18日、盛んに喧伝（けんでん）されている中国の習近平（Xi Jinping）国家主席のミャンマー訪問中、ビルマ語から英語への翻訳で習主席の名前が「Mr Shithole（ミスター・シットホール＝ミスター・くその穴）」と誤訳されていたことを謝罪した。
【編集部おすすめ】トランプ氏の「shithole」発言、世界のメディアはどう訳したのか
習氏は2日間の日程でミャンマーの首都ネピドーを訪問。中国国家主席のミャンマー訪問は、約20年ぶりだった。
しかし、フェイスブックの自動翻訳機能がビルマ語から英語への翻訳で、「習近平」を「Mr Shithole」と誤訳したことで、この歴史的瞬間もかすんでしまった。
このとんでもない誤訳は、ミャンマーのアウン・サン・スー・チー（Aung San Suu Kyi）国家顧問の公式ページでとりわけ顕著に見られた。
18日には「中国の国家主席、Mr Shitholeが午後4時に到着」と発表され、続いて「中国の国家主席、Mr Shitholeが下院の芳名帳に記帳した」と投稿された。
こうした事態を受けてフェイスブックは謝罪し、技術的な問題が原因だと説明。同社の広報は、「フェイスブック上でビルマ語から英語に訳された際の誤訳の原因となった技術的問題を解決した。あってはならないことなので、二度とこのようなことがないよう対処していく」と述べた。
フェイスブックの説明によると、同社のビルマ語の翻訳データに習氏の名前がないため、システムは音節を表す文字が似た言葉を推測し、置き換えているという。
フェイスブックがビルマ語の似た単語で試してみたところ、同じ文字が使われる「xi」と「shi」で始まる単語も「shithole」と翻訳された。
世界に20億人以上のユーザーを持つフェイスブックだが、中国では規制されている。(c)AFP
「習近平」は「糞の穴」？フェイスブックの誤翻訳が話題に…[海外の反応]
2020/1/20 海外の反応
先週土曜日、フェイスブックは同社が提供する「（ミャンマー語から英語への）翻訳機能」において、中国の「習近平」氏の名前が、「糞の穴」と誤訳されていたことを認めた。（米ヤフー）
Xi attends welcome banquet hosted by Myanmar president
同社によると、今回の誤訳は「技術的ミス」により発生し、これによって生じた「全ての不快感」に対して謝罪する意向を示している。
今回のミスは、習近平氏によるミャンマーへの公式訪問と時期同じくして判明した。現在はすでに修正されているという。
参考文献・参考資料
チャットAI、中国では多難? 「共産党万歳」と呼びかけたら… (msn.com)
「習近平」を「ミスター・くその穴」に誤訳、FBが謝罪 写真1枚 国際ニュース：AFPBB News
「習近平」は「糞の穴」？フェイスブックの誤翻訳が話題に…[海外の反応] | 海外報道翻訳所 (foreignnews.biz)
この記事が気に入ったらサポートをしてみませんか？