![見出し画像](https://assets.st-note.com/production/uploads/images/143102435/rectangle_large_type_2_769d2bc2c0ad1787bb480d8438f011f9.png?width=800)
批判記事をいくつか見たので、関連Post/Tweet共有しますね。
9/15: Meanwhile, there is little to no oversight over this technology. Instead, we rely on the companies building them to self-govern, even as profit motives and excitement about the technology push them to "move fast and break things."
— Daniel Kokotajlo (@DKokotajlo67142) June 4, 2024
I'm excited to join @AnthropicAI to continue the superalignment mission!
— Jan Leike (@janleike) May 28, 2024
My new team will work on scalable oversight, weak-to-strong generalization, and automated alignment research.
If you're interested in joining, my dms are open.
僕らが事実確認出来ることは、Anthropic社へJan Leike氏が移籍されたことは、上記Tweetですぐ確認できます。時事通信はガバナンスに結びつけて報道されていますが、価値観や方向性の違いにも見えます。
Do Not Create Political Campaigns or Interfere in Elections(Usage Policy)
政治キャンペーンを作成したり、選挙に干渉しないこと(利用規約)
Claude3のAnthropic社の方が、OpenAIより厳しい面があります(慎重ともいえる)。フェイクニュースを見極めるのは難しいから、そもそも政治キャンペーンはやめてとか、他にも「こういうの危ないです」と具体例を挙げています。OpenAIとの違いを感じるし、敬意も抱きます。
で、一般論なのですが、コミュニケーションは双方向なのに、なぜ「告発」する側の責任は触れないのでしょうか。
また、「告発」は自身の行動の正義を信じて行うはずです。正義は主観的だから、客観的に検証出来る方が良いと思います。
趣味で生成AIと哲学の話をします。形而上学で人はどこまで抽象概念を理解できるのか、強い不可知論を意識して数学の圏論の話をしました。無限を扱える堅牢な枠組みだから。
私の専門外の圏論に関して、生成AIの説明が間違えていると、気がついてくれるのは異なる生成AIによるクロスチェックによります。
現時点でも、専門外の話は生成AIでチェックしますから、AGIは人の専門家を超えるので、意見が割れた時のために、異なる系統の(仕様やアルゴリズムが異なる)AGIを3体用意すると多数決取れますね。
一つの企業がここまで強い力を持っていいのかなど、議論するのは良いと思います。
対して、ゴシップみたいに消費するのは、お勧めしません。その創造性を小説やドラマなどで表現すれば世界に作品が一つ増えるので、その方が豊かだから。
批判と誹謗中傷やレッテル貼りの境目の話でもありますね。
Thank you for taking the time to read this.