記事一覧
AIに悪意が無くても人類は破滅する説（パート1️⃣）
前回から大分時が経ち、考えがかなり変わってきたので記述したい。
まず、今まではAIが人類に悪意を持つ可能性がある場合、AIが人類を滅ぼす可能性があるのではないかという視点からAIが悪意を持ちうる可能性を探っていたが、そもそもLlama 2などオープンソースで性能の良いLLMが出てきたことで、そもそも悪い人間が制限のかかっていないLLMを悪用して他人を攻撃するまたは攻撃する手段を得ることの可能性の
AIが今の所悪意を持っていないのは長期記憶が無いから説
まずはこちらの動画を見てほしい。
水田さん（動画の女性）の症状を例にするのは申し訳ないが、とても興味深いと思う。水田さんは病気が発症する前の長期記憶はあるが、発症後の長期記憶がない。
ChatGPTなど現在のLLMは長期記憶がなく、トークンという短期記憶があるだけだ。
動画内で水田さんがメモをせずに会話してみる場面があった。普通に会話は出来ていたが、7秒以上経った内容をどんどん忘れていた。C