ChatGPT は多様性を阻害する？

はじめに

同僚からChatGPTに関するnature の記事が送られてきた。
今まで自分が気づかなかった点が指摘されていたのでとても参考になった。

How I use ChatGPT responsibly in my teaching (nature.com)

ChatGPTは多様性を阻害する？

この記事で指摘されているChatGPTのデメリットとして、ダイバーシティ＆インクルージョンという点で負の影響を組織にもたらす可能性があるとのこと。

自分は曲がりなりにもAPUのCIL (The Center for Inclusive Leadership) のセンター長を務めているので、この一文を見たときに看過できない問題だと感じたわけである。以下が該当部分の引用。

For example, during a lecture on greenhouse gases, I asked ChatGPT to provide a list of significant books on climate change and their authors. In an attempt to prevent any bias related to race and language, I included the phrase “regardless of race and language” in my prompt. But all of ChatGPT’s recommendations were written in English. Nine of the ten authors were white, and nine of the ten authors were men.

Yang, H. (2023) How I use ChatGPT responsibly in my teaching, nature. 
 

簡単に言えば、この著者が温暖化ガスに関する講義の際にChatGPTに対して「人種や言語に関わらず」関連する書籍のリストを提示するよう尋ねたにも関わらず、提示されたリストは9割が白人で男性の著者によるものだったというもの。

これは、ChatGPTが学習するコンテンツにすでにこうしたバイアスがあるからであり、"Garbage In, Garbage Out" ではないが、"Bias In, Bias Out” とも言えるような状況何だろうなと感じた。

こうしたことを考慮せず、盲目的にChatGPTのアウトプットをそのまま鵜呑みにしてしまうのは怖いな、と改めて実感。

まぁ、かといってChatGPTを使ってはいけない、とは言えないだろうし、むしろこうしたデメリットを踏まえつつどうやってこうしたツールを使っていくのかを考えないといけない。