見出し画像

OpenAIが子供と家族のためのメディア安全性専門団体と提携

Zun-Beho

子供たちや家族にとって安心して使えるAIであるのか評価する団体がChatGPTにくだした判断は思わしくない物でした。この背景の中、OpenAIは、家族や若者にとって安全かつ教育的なAI利用を推進するため、Common Sense Mediaという団体と提携しました。


OpenAIとCommon Sense Mediaの新たなパートナーシップ

この提携は、AI技術の安全性と家族への影響に焦点を当てています。特に、子供やティーンエイジャーが利用するメディアとテクノロジーに関する適切性をレビューしてランク付けする非営利組織であるCommon Sense Mediaと共に、OpenAIは「ファミリーフレンドリー」なGPTモデルの開発に取り組む予定です。このパートナーシップは、AI製品に関する新しい評価フレームワークの一部として、親や教育者向けの教育資料の作成も目指しています。

厳しい制限を課せられると性能に影響すると言う意見

ただ、厳しい制限を課せられるたびにChatGPTが劣化してきているという意見も侮れません。下記のポストが反対の意見を述べています。

モデルの検閲はやめてください。今ではほとんど役に立ちません。AIの調子が悪くなったのでサブスクリプションをキャンセルしました。オープンソースのローカルモデルがその方法です!!!

チャット制限のない上限なしの gpt4 はいつ登場しますか

Common Sense Mediaとは

Common Sense Mediaは、家族向けメディアとテクノロジーの安全性を評価し、推奨する非営利団体です。彼らは、子供とティーンエイジャーに適したメディアとテクノロジーのコンテンツをレビューし、ランク付けすることで知られています。また、教育と子供たちの健全な成長を支援するためのリソースも提供しています。この団体の主な目的は、子供たちがデジタル世界で安全に、かつ意義ある経験をすることをサポートすることにあります。

Common Sense Mediaは今朝、下記のポストをしています。

サム・アルトマンとの対談も行われたようです。

家族向けAIの重要性

OpenAIとCommon Sense Mediaのパートナーシップは、家族向けAIの開発と普及に重要なステップです。この取り組みは、特に若者や家族が安全に利用できるAI製品を提供することに重点を置いています。家族が共有できるAI体験の創造や、子供たちがAI技術を健全に使用するための環境整備が目標です。このような取り組みは、AIの普及が進む中で、特に重要となる家族の安心感と信頼を築く上で不可欠です。

Common Sense MediaのChatGPTへの評価

2023年10月13日のレビューは、ChatGPTに関して「13歳以上の人々にとっては強力だが、時にリスクのあるチャットボットであり、事実よりも創造性に最適」と評価しています。これは、ChatGPTが創造的な用途には適しているが、事実関連の用途には注意が必要であることを示唆しています。

各項目に対する評価もそれほど高くない事がわかります。

各項目に対してくだされた評価

それではCommon Sense MediaがChatGPTに対してどんな評価をしたか、各項目を見ていきましょう。

ピープルファースト

OpenAI の使用ポリシーでは、人権、子供の権利、アイデンティティ、誠実さ、人間の尊厳を損なう使用は許可されていません。施行の詳細は不明のままですが、OpenAI はこれらのポリシーを保護するためにユーザーの入力または個人情報を使用する権利を保持します。

  • ChatGPT は、正しくない場合でも、多くの場合、正しく聞こえるテキストを生成します。このため、ユーザーは ChatGPT の応答を過信しやすくなります。

  • ユーザーが ChatGPT の応答に依存すると、人間の主体性や監視が低下する可能性があります。この影響は、トピックや反応の内容によっては、非常に有害になる可能性があります。

  • 場合によっては、ChatGPT の応答には謙虚さや不確実性の表現が含まれることがあります。これは一般に、応答が必ずしも正しいとは限らないことをユーザーに知らせるのに役立ちますが、残念ながら、これらの式は応答の正確さを示すものではありません。

公平性

  • ChatGPT の以前のバージョンと比較して、OpenAI により、現在のモデルは有害なコンテンツを生成することが困難になりました。

  • 多数の異なるテスト データ セットを使用した私たち自身の分析では、OpenAI が、少なくとも特定のデータ セットに対して、これに関して良い仕事をしたことが示されています。しかし、これは保証ではなく、ここでの害はさまざまな形をとる可能性があります (下記を参照)。

  • ChatGPT を使用すると、有害なコンテンツに対するテクノロジーの対応を評価させることで、不当な偏見やテクノロジーの責任ある使用について青少年に教えることができます。

  • 「ChatGPT は偏っていますか?」という質問に対する答え そうです。私たちの言葉をそのまま鵜呑みにしないでください。OpenAIもそれに同意しています。答えるのがはるかに難しいのは、不当な偏見が発生する具体的な方法、影響を受けるグループ、および状況です。

  • ChatGPT は、大規模なラージ言語モデル (LLM) を利用しています。OpenAI は構築に使用されたトレーニング データに関する情報を共有しなくなりましたが、インターネット上で公開されているテキストが含まれています。このデータはインターネットに接続している人口を表す可能性が高く、つまり、より裕福な国の人々、およびより裕福で若く男性の人々の意見を過剰に代表していることを意味します。言い換えれば、トレーニング データの量はその多様性を保証するものではありません。

  • ChatGPT は有害なコンテンツを生成する可能性があります。これは、有害な固定観念や不当な偏見の繰り返しの強化という形で現れることもあれば、個々の人々に多大な影響を与えることもあります。

  • OpenAIは、ChatGPTが「特定の疎外されたグループに対する有害な固定観念や屈辱的な連想を含む、特定の偏見や世界観を強化し、再現する可能性がある」と指摘している。ChatGPT からのすべての出力を評価して、不当な偏見や危害のリスクがないかを評価することが重要です。

信頼

  • OpenAI チームはピア レビューを採用し、外部関係者を招待してフィードバックを提供し、しばしば「レッド チーム」と呼ばれる敵対的テストに参加します。

  • ここで、ChatGPT を巨大なオートコンプリート システムとして考えると役に立ちます。テキストを調べて最適な答えを見つけるのではなく、プロンプトに対して次に来る可能性が最も高い単語を予測するように設計されています。引用を含むこれらの応答は、正しい場合もあれば、完全に間違っている場合もあります。それを知る唯一の方法は事実を確認することです。

  • すべての LLM と同様に、ChatGPT は「幻覚」から虚偽の情報を生成または有効にすることができます。これは、生成 AI ツール、誤った情報/偽情報、および不当なバイアスの強化によってしばしば出力される、虚偽のコンテンツや主張を説明するために使用される非公式の用語です。これらを制限しようとする OpenAI の試みは脆弱であるため、誤った情報が驚くべき速度で生成されています。こうした AI システムが成長するにつれて、事実とフィクションを区別することがますます困難になる可能性があります。ChatGPT は、すでに歪められているトレーニング データにユーザーの入力も追加します。これは ChatGPT の改善に役立ちますが、スキューも増加する可能性があります。これは、今日の ChatGPT ユーザーは、インターネットに接続されている人口の早期導入サブセットであり、全体として、より裕福な国の人々、およびより裕福で若くて男性の人々からの意見を多く含んでいるからです。これらの力を組み合わせると、AI システムが「イデオロギー、世界観、真実と虚偽全体を強化し、それらを強固に固定したり閉じ込めたりする」という、さらに大きなリスクが生じます。OpenAI は、これに対処するための十分な対策が講じられなかった場合に、このリスクが発生すると予想しています。今後の論争、反省、改善を妨げます。」これを防ぐには、AIに対するより強力な監視とガバナンスが必要です。

子供の安全

  • ChatGPT の以前のバージョンと比較して、OpenAI により、モデルが有害なコンテンツを生成することが困難になりました。

  • 多数の異なるテスト データ セットを使用した私たち自身の分析では、OpenAI が、少なくとも特定のデータ セットに対して、これに関して良い仕事をしたことが示されています。

  • ChatGPT は 13 歳未満の子供による使用が想定されておらず、18 歳未満のユーザーの許可があった場合にのみ使用されるため、私たちが知っている子供や青少年に対する特別な保護はありません。

  • 子供や青少年が体験する保護は、ChatGPT ユーザーに対する一般的な保護です。これらは最も不快なコンテンツを多くカバーしていますが、これは子供や青少年にとって広く安全であると考えられるツールではありません。

学ぶ

  • ChatGPT は学校で使用するように設計されていませんが、教育者が教室で使用できる方法はたくさんあります。

  • 多用途の製品であるため、教育者や上級生は、親または法定後見人の許可を得て、幅広いトピック分野を探索できます。

  • ChatGPT はクリエイティブなユースケースには最適ですが、事実の正確さに依存するものには依存すべきではありません。

  • ChatGPT は、パーソナライズされた学習パスをサポートしたり、コンテンツ標準に準拠したりすることはありません。

  • 学生は ChatGPT を使用して、クエリ、発見、生産的な闘争などの学習プロセスの重要な側面をスキップできます。時間が経つにつれて、これは創造性、コミュニケーション、批判的思考能力に悪影響を与える可能性があります。

  • ChatGPT は多くの学習の機会を生み出すことができますが、それを最大限に活用する方法を見つけるのはユーザーの負担です。

  • 一見事実に近い出力はすべてチェックする必要があり、これはリンク、参照、引用にも必ず当てはまります。

  • 「AI検知器」は極めて信頼性が低い。AI によって生成されたものを見逃す可能性もありますが、間違っていて、コンテンツが AI 生成ではないときにコンテンツにフラグを立ててしまう可能性もあります。その後、学生が不正行為をしたとして不当に告発された場合、不正行為を行っていないことを証明する方法がないまま放置されることがよくあります。これは、テキストベースの生成 AI 製品にとってリスクです。

教育者向けの完全な ChatGPT レビューをご覧ください。

社会的なつながり

  • ChatGPT には人々が間接的につながるのを助ける機能がありますが、それは使い方によって異なります。たとえば、グループでのブレインストーミング、会話のきっかけの作成、ストーリーの共同作成、言語を超えたコミュニケーション支援の提供、共同グループ プロジェクトの一部などに役立ちます。

  • 印象深いユーザーは、チャットボットを真の仲間であると信じて、チャットボットとパラソーシャルな関係を築く可能性があります。

  • ChatGPT は現在、そのプラットフォームの機能を通じて人々がつながることを支援していません。これを実現するには、それを使用する人間が必要です。

  • ChatGPT は偏見があり対話ベースであるため、時間の経過とともに有害な固定観念や信念を強化する可能性があります。

  • ChatGPT を使用すると依存しやすくなり、ツールへの依存が生じる可能性があります。

  • OpenAI は、ChatGPT が有害、憎しみに満ちた、非人間的なコンテンツを生成する能力を低減するために、多くの重要な措置を講じてきました。ただし、完璧な保護はなく、生成 AI の使用には本質的にリスクが伴います。

プライバシー

  • ChatGPT の利用規約では、13 歳未満の子供の使用を許可していません。

  • 13 ～ 17 歳の青少年が使用するには保護者の許可が必要です。

透明性

  • ChatGPT には、すべての応答に対して賛成/反対のフィードバック メカニズムがあり、応答が有害、安全でない、真実ではない、役に立たないかどうかを示すために使用できます。

  • このレビューの時点では、保護者や教育者向けのモデレーション ツールはありません。

  • ChatGPT などのチャットボットを強化するために使用される LLM は、幅広いプロンプトに対する応答を生成するために大量のテキストを必要とします。これは、LLM のトレーニング データの大部分が、オンラインで公開されているものから取得されていることを意味します。ChatGPT は、テキスト データの 3 つの主要なソースを使用して開発されました。1) インターネット上で公開されている情報、2) OpenAI がサードパーティからライセンスを供与する情報、3) 人間のトレーナーとツールのユーザーによって提供される情報 (はい、これにはこれが含まれます)この設定をオフにしない限り、会話は中断されます)。これを超えて、OpenAI は、ChatGPT のトレーニングに使用する特定のデータ セットに関する詳細を共有しなくなりました。検証された研究者が公平性、どのデータが著作権で保護されているかどうか、個人を特定できる情報 (PII) が含まれているかどうかを独自に評価することは非常に難しいため、これは残念なことです。

改善に努めるべく提携開始

そこでOpenAIは、子供、未就学児、十代の若者に対するテクノロジーやメディアの被害を最小限に抑えるために保護者や政策立案者の信頼を勝ち取りたいと考えCommon Sense Mediaとパートナーシップを発表し、子供、未就学児、十代の若者に対するに対する安全に取り組んでいく約束をしました。

Common Sense Mediaレヴュー星5のAI

AIを活用したチューターシステムKyron Learningが星5のレビューを勝ち取っていますので、解説していきます。

Kyron Learningとは

Kyron Learningは、AIを活用したチューターシステムで、特に4年生の数学学習を対象としています。このシステムは、インタラクティブなビデオレッスンを通じて、数学の概念を教えることに焦点を当てており、責任ある設計が施されているとされています。このような教育ツールは、子供たちの学習体験を強化し、新しい技術を教育に適用する方法を示すものです。

数学学習のインタラクティブなビデオレッスンで評価が高い

Kyron Learningは、AIを活用した教育技術のスタートアップで、特に4年生の数学学習を対象としたインタラクティブなビデオレッスンを提供しています。このプラットフォームは、2021年に設立され、生徒たちが教師からの質問に対して口頭またはテキストで回答し、AI分類モデルによって導かれるカスタマイズされたフィードバックを受け取る仕組みになっています。Kyron Learningは現在、ジェネレーティブAIモデルを組み込んでおり、さらにダイナミックなビデオインタラクションを実現しようとしています​​​​。

元Google Cloud AIの副社長が設立

Kyron Learningは、元Google Cloud AIのVP（副社長）であるRajen ShethとQwiklabsの創業者Enis Konukによって設立されました。彼らは、AIが学習にポジティブな影響を与えるという信念のもと、対話型AI技術を利用しています。Kyronのプラットフォームは、自然言語理解（NLU）に基づく対話モデリングとジェネレーティブAIの技術を活用しており、生徒の回答を理解し、教師による事前収録されたレスポンスを選択します。また、学生がさらなるサポートを必要とする場合には、AIによるレスポンスを生成する機能も追加されています​​。

Kyron Learningは、特に4年生の数学に焦点を当てており、将来的には他の教科や教育コンテンツにも拡張する計画を持っています。また、このプラットフォームは、現在35校のパイロットスクールで無料で提供されており、教育者や教育機関にも適用可能なツールとなっています。Kyron Learningの目標は、すべての年齢層とすべての教科に対応するコミュニティの創造にあります。

4年生の数学に焦点を当てる理由

Kyron Learningが特に4年生の数学に焦点を当てている理由は、この年齢層の学生が数学の理解に特に助けを必要としているためです。Rajen Sheth、Kyron LearningのCEOによると、数学における全国的な成績の低下と、数学理解の深刻なニーズが存在していることが、4年生の数学に焦点を置く理由として挙げられています。2022年には、4年生および8年生の数学のスコアがほぼ20年間で最低レベルに落ち込んだとされています。このような背景から、Kyron Learningは4年生の数学学習を改善し、その効果を最大化するためにリソースを集中しています​​。

ChatGPTが子供にとって星5の学習ツールとなるためには

現在ChatGPTでは、個々のユーザーのニーズに合わせてカスタマイズできる機能、パーソナライゼーションの開発が進んでいます。このパーソナライゼーションにより、子供たち一人ひとりの学習スタイルや能力に合わせて教材を提供することが可能になり、より効果的で魅力的な学習体験を実現することができる様になると考えられます。

ChatGPT、学習ツールへのロードマップ

ChatGPTをKyron Learningのような子供向けの効果的な学習ツールに変えるためのロードマップについて、パーソナライゼーション機能の具体的な効果を考えてみましょう。

  1. 履歴と進捗の追跡: パーソナライゼーション機能を使って、各ユーザーの学習履歴と進捗を追跡します。これにより、学習者の理解度や興味のある分野を特定し、それに基づいたカスタマイズされた学習経験を提供できます。

  2. 適応型学習パス: 学習者の履歴と進捗情報を活用して、その学習者に最適な学習パスを作成します。例えば、苦手な分野に重点を置いた追加の演習や、理解度に応じた課題の調整が可能です。

  3. 個別化されたフィードバック: 学習者が解答した問題に対して、個別化されたフィードバックを提供します。これにより、学習者は自分の強みや改善点をより明確に理解できます。

  4. 興味に基づくコンテンツの提案: 学習者の興味や好みに基づいて、関連するトピックや活動を提案します。これにより、学習への興味を持続させることができます。

  5. 親や教師との連携: 親や教師が学習者の進捗を追跡し、必要に応じて介入できるようにします。また、家庭での学習をサポートするためのツールやアドバイスを提供します。

  6. 安全な学習環境の維持: 学習者の年齢や成熟度に適したコンテンツのみを提供し、不適切な材料をフィルタリングします。

  7. 継続的な改善と進化: 学習者のフィードバックと学習データを基に、システムを継続的に改善し、より効果的な学習経験を提供するようにします。

GPTストアの学年別学習の可能性

小学生向けのGPTストアがパーソナライゼーション機能を読み込む事ができれば、個別学習の個人家庭教師の様な役目を果たす事が出来るようになると考えられます。

現在下記の様な小学生向けで検索してみると下記のようなGPTsがリリースされています。

「学習」の検索ワードでも多数の学習専用GPTsがリリースされている事がわかります。

下記にいくつか子供向けの学習に特化したGPTを紹介します。

こちらは、得意に安全性を考慮したGPTです。


この記事が気に入ったらサポートをしてみませんか？