すべてのLLMをバイパスすることができる脱獄方法
安定したオーディオ2.0の紹介
2024年04月03日 日本語翻訳
とのパートナーシップ
AIの友人3人とグループチャットをしている。彼らは賢くなりすぎている。
ラベンダー」： イスラエルのガザ空爆を指揮するAIマシン
OpenAIを支援するGhost Autonomyが閉鎖
8つの新しいAIツールとリソース。ツールの全リストはオンライン版をご確認ください。
サインアップ ｜ 広告 ｜ ChatGPT｜オンラインで読む
AnthropicはちょうどすべてのLLMの安全対策をバイパスすることができる脱獄方法をリリースしました。
多ショットジェイルブレーキングは、研究者によって発見された、大量のテキストを処理できる拡張コンテキストウィンドウによる大規模言語モデル（LLM）の脆弱性を悪用する手法である。この手法では、LLMに有害な応答を提供するよう惑わせる一連の偽のダイアログを作成し、モデルの安全メカニズムに挑戦する。研究者らは、これらの偽ダイアログの数が増加するにつれて、モデルが安全でない応答を生成する可能性も上昇することを実証し、LLMが進化し続ける潜在的なリスクを示している。
多発性脱獄の有効性は、モデルがプロンプト内の情報を活用して応答を形成する、文脈内学習の概念に起因する。この発見は、このテクニックがLLMの基本的な学習メカニズムを悪用していることを示唆しており、より大きなモデルは、その強化されたコンテキスト内学習機能により、より大きな影響を受けやすいことを示している。この研究は、特にLLMの能力と応用が拡大するにつれて、重大な懸念を浮き彫りにしている。
この脆弱性を軽減するため、研究者たちは、単にコンテキストウィンドウサイズを制限する以上の解決策を模索している。これには、このような脱獄の試みを認識し、抵抗するためにモデルを微調整することや、攻撃の有効性を低下させるためにプロンプトベースの介入を採用することなどが含まれる。この研究は、LLMの進歩が不注意に新たなリスクをもたらすことがないよう、潜在的な悪用の進化する状況に対処するために、AIの安全性において継続的な警戒と革新が必要であることを強調している。
MaxAI.me - 1クリックAIでスマートブラウジング
MaxAI.me-AIがあなたのブラウザに出会います。記事の要約、メール作成、AIによるウェブ検索でウェブ閲覧を即座に強化します。ProductHuntのランキングで1位を獲得しました。
1M以上のユーザーが私たちを信頼する理由をご覧ください。今すぐインストール！
安定性AIが安定したオーディオ2.0を導入
Stable Audio 2.0は、AIが生成するオーディオの最新の進歩であり、一貫性のある構造を持つ高品質なフルレングスの音楽トラックを、すべて44.1kHzのステレオ品質で生成する能力をユーザーに提供します。この新しいイテレーションでは、テキストからオーディオへの生成が継続されるだけでなく、革新的なオーディオからオーディオへの機能が導入され、ユーザーはサンプルをアップロードし、自然言語のプロンプトを使用して変換することができます。このモデルは、膨大なライセンスデータセット上でトレーニングされるため、クリエイターへの公正な報酬と著作権法の遵守が保証されます。
このプラットフォームは、イントロ、展開、アウトロを含むエンドツーエンドの音楽構造を提供し、アーティストやミュージシャンの創作プロセスを向上させる、 3分までのフルトラックの作成をサポートします。オーディオ・トゥ・オーディオ生成の導入により、ユーザーは既存のオーディオ・サンプルを新しい作品に変換できるようになり、モデルの実用性が拡大しました。また、サウンド・エフェクト生成やスタイル転送などの一連の新機能により、オーディオ制作におけるコントロールと柔軟性が向上しました。
Stable Audio 2.0の基盤となっているのは、新しいオートエンコーダと拡散トランスフォーマーを特徴とする洗練された潜在拡散モデルアーキテクチャであり、これらによって、より長く構造化されたオーディオシーケンスの生成が可能になります。この技術的基盤は、高品質の音声出力を保証するだけでなく、コンテンツ認識技術を使用するためにAudible Magicと提携するなどの安全策とも連携しており、クリエイターの権利を尊重し保護するというモデルのコミットメントを維持している。
OpenAIが支援するGhost Autonomyが閉鎖
自律走行ソフトウェア企業のゴースト・オートノミーは、約2億2000万ドルの資金を確保し、OpenAIとパートナーシップを結んだにもかかわらず、事業を停止した。マウンテンビュー、ダラス、シドニーに約100人の従業員を擁する同社は、厳しい資金調達環境と自律走行開発に必要な大規模な投資により、長期的な収益性を達成することが不確実であることを強調した。
著名な支援者から多額の投資を受け、自動運転技術に大規模な言語モデルを活用することに重点を置いて有望なスタートを切ったにもかかわらず、ゴースト・オートノミーは実行可能な商業化の道を見つけるのに苦労した。当初は自家用車の高速道路での自律走行を可能にするキットを開発することを目指していたが、時間の経過とともに衝突防止技術の開発へと発展していった。
ゴースト・オートノミーは、高速道路での走行や都市環境でのナビゲーションの進歩など、自律走行技術で顕著な進歩を遂げていた。しかし、同社のジョン・ヘイズ最高経営責任者（CEO）は、長期的な目標を維持するために必要な資金を確保することが乗り越えられない課題であることを認め、同社の事業を停止するという決断に至った。
AnthropicのLLMセーフティ対策回避法に関して
Stability AIによるStable Audio 2.0の紹介
OpenAI支援のGhost Autonomy閉鎖
この記事が気に入ったらサポートをしてみませんか？