![見出し画像](https://assets.st-note.com/production/uploads/images/106263458/rectangle_large_type_2_6a7083b82fe0bd1a8d331a47050d09fb.png?width=1200)
ChatGPTの訓練に関わった人物がトラウマ的な体験をしたと証言
OpenAIのAIモデルChatGPTの訓練に携わった人工知能の専門家たちが、トラウマ的な経験をしたと証言しています。
AIアノテーション会社のSamaで働いていた従業員たちは、OpenAIとの契約に基づき「人間のフィードバックからの強化学習」というプロセスを完了するために働いていました。
従業員のRichard Mathengeは、2021年にAIモデルの訓練を開始し、週に5日、1日9時間働いたと述べています。彼はその経験が傷つけられるものだったと主張しています。
Mathengeによれば、彼と彼のチームに与えられたタスクは「想像を絶するもの」であり、明示的なテキストを繰り返し読むなどの作業が含まれていたとされています。
これは一般の人々が安全に使用できる言語モデルを作成するための手法ですが、人間のトレーナーには負の影響を与える可能性があります。
明示的なテキストは、児童性的虐待や獣姦などの犯罪に関連していたと報じられています。
Mathengeによれば、彼のチームはそのような表現と関わることに興味がない、仕事に取り組む気持ちがないというサインを送っていたと述べています。
MathengeのチームのメンバーであるMophat Okinyiは、ChatGPTの訓練後もパニック発作、不眠症、不安、うつ病などの健康問題に悩まされていると語っています。
彼はこの経験が妻との離婚の原因だと主張しています。
従業員たちは、彼らが受けたサポートが十分ではなかったと考えています。OpenAIにコメントを求めています。
ホームページ:ai-frontline.com/
この記事が気に入ったらサポートをしてみませんか?