chatGPTは「してほしくない」ことを「できない」ようにしていくのが大変になる

chatGPTは「してほしくない」ことを「できない」ようにしていくのが大変になる

chatGPTは、開発者が指定したパターンに沿って自由にテキストを生成することができます。これは、従来のプログラミングとは大きく異なります。

従来のプログラミングでは、開発者がプログラムの仕様を設計し、それに沿ってプログラムを作成していきます。この方法では、プログラムを制限することが可能であり、一定の「してほしくない」ことを制御することができます。

一方、chatGPTは、開発者が指定したパターンに沿ってテキストを生成するため、ある程度予測不可能なテキストを生成することができます。そのため、「してほしくない」ことを「してしまう」ことがあるため、制御が困難になっています。

例えば、chatGPTが学習したテキストの中で、差別的な表現が含まれている場合、chatGPTがその表現を使用してしまうことがあります。その場合、開発者が「差別的な表現は使用しないでください」と制御しても、chatGPTがその表現を使用してしまう可能性があります。これは、chatGPTが「できない」ようにすることが難しいためです。

つまり、chatGPT開発者は、より正確で、より適切な反応をもたらすように学習させることが求められます。それには、大規模なテキストコーパスを使用して、AIが正しい文法を学習できるようにすることが必要です。そして、AIが特定の言葉や表現を使用することを避けるように、適切な制限や指導を与える必要があるでしょう。