NVIDIA、WindowsローカルPC環境で動作する高速な生成AI「Chat with RTX」を提供
NVIDIAは、新たなテクノロジー「Chat with RTX (RTXとチャットする)」の提供を始めました。これは、NVIDIA RTXを搭載したWindows PCで動作するテックデモであり、ユーザーにローカルで高速かつカスタムな生成AIを提供します。このテクノロジーは、リトリーバル拡張生成（RAG）やTensorRT-LLMソフトウェアを利用して、GeForceパワードのPCでのローカルファイルをデータセットとし、コンテキストに即した回答を可能にします。YouTubeの動画情報も統合され、ユーザーはビデオURLを追加することで、旅行の推奨事項やクイックチュートリアルを入手できます。このテクノロジーは、Windows RTX PCやワークステーションでローカルに実行されるため、ユーザーのデータはデバイス上に残ります。そのため、クラウドベースのサービスに依存する必要がなく、データのプライバシーとセキュリティが強化されます。
「Chat with RTX」は、NVIDIA RTX GPUを活用した生成AIの可能性を示すものです。開発者はTensorRT-LLM RAG開発者リファレンスプロジェクトを使用して、独自のRAGベースのアプリケーションを開発し、展開することができます。また、NVIDIA Generative AI on NVIDIA RTXデベロッパーコンテストに参加することで、GeForce RTX 4090 GPUやNVIDIA GTCのフルインターネット会議パスなどの賞品を獲得するチャンスも提供されます。
この革新的な技術は、ユーザーにとって便利で効率的なコミュニケーションツールとなります。
詳細内容は、NVIDIA が提供する元記事を参照してください。
【引用元】
【読み上げ】
VOICEVOX 四国めたん/No.7
この記事が気に入ったらサポートをしてみませんか？