アフリカの安価な労働に支えられるAI　AIは偏見と権力をより強化する

AIは現在、研究サプライチェーンの上位に位置している。下流には発電所、資源採掘、AIトレーニングなどさまざまな労働が存在している。ケイト・クロフォードは、「Atlas of AI」の中でAIの搾取現場を見て歩いている。AIを支える搾取構造が示すのは、偏見と権力をより強化する新しいメカニズムの誕生に他ならない。
AIの学習に使われている過去のニュースなどの著作権の話題がよく出るが、ネットで収集可能な過去のデータ蓄積は圧倒的に欧米が多い。ナイジェリアの家族に起きた事件などはそこには入らないだろう。できあがえるのは欧米史観にのっとった世界認識でしかない。

TechScape: How cheap, outsourced labour in Africa is shaping AI English
https://www.theguardian.com/technology/2024/apr/16/techscape-ai-gadgest-humane-ai-pin-chatgpt

最近、ChatGPTが「delve」という言葉をよく使うことが話題になった。あるAIインフルエンサーが気づいて調べたところ、数年前に比べて10倍から100倍に増えており、論文の中に含まれる数も急増した。
その理由は、実際にAIと対話してトレーニングする作業をナイジェリアで行っていたからだ。ナイジェリアでは「delve」の使用頻度が極端に多い。それが学習過程で学ばれてしまった。図らずもひとつの言葉からChatGPTの語彙が研究サプライチェーンから生まれたものだということがわかった。

チャットボットのトレーニングには何十万時間もかかるので、大手のAI企業は、英語を使える労働者を安く雇えるグローバル・サウスにその作業を外注している。その作業環境はよいものとはいえず、搾取的な労働条件を見直しが必要と言われている。

あなたが最新のAIとチャットした時、違和感を覚えるような表現があったとしたら、それはAIのために搾取されている人々の方言なのだ。

関連記事

ビッグデータ統計は、中立や客観性を保証せず、しばしば偏りを生む
https://www.newsweekjapan.jp/ichida/2021/10/post-30_3.php

好評発売中！
『ネット世論操作とデジタル影響工作：「見えざる手」を可視化する』（原書房）
『ウクライナ侵攻と情報戦』（扶桑社新書）
『フェイクニュース　戦略的戦争兵器』（角川新書）
『犯罪「事前」捜査』（角川新書）＜政府機関が利用する民間企業製のスパイウェアについて解説。