ChatGPTライクでローカルの環境構築がめんどい人はGPT4ALLを使ってみようという話
元々は自分で用意したLlama2のモデルをPythonで読み込ませて動かそうとしていたのだが、残念ながらまだ動かせていない。調べているうちにUI付きのインストーラがあって必要なモデルはダウンロードする機能が備わっていることに気付いた。一応は似たプロジェクトを進めていることや理解のあるモデルを使うことを前提にしたいので直接的にフォークすることは辞めたが、利便性は高いので記事にする
前提
Windowsを使用した
メモリは16GBはあった方がよい
プロンプトに対する回答は英語である
公式サイト
上記のサイトでWindowsのインスト－ラをダウンロードできる。インストールすればデスクトップに出来たアイコンをダブルクリックして立ち上げられる
github
使い方
モデルのダウンロード
初回起動時にモデルのダウンロードが求められると思うが、モデルのダウンロードはDownloadボタンから出来る
Llama-2-7B Chatのダウンロードする
Chatする
下線部のテキストエリアで入力してEnterキーを押せば対話が始まる。日本語で入力しても理解しているのはすごい。
Facebook is a social media platform that allows users to connect with friends, family, and other people who share similar interests. It was launched in 2004 by Mark Zuckerberg and his team at Harvard University, and it has since become one of the most popular social media platforms in the world.
Facebook allows users to create a personal profile, add friends, share updates and photos, join groups, and more. Users can also use Facebook to connect with businesses, organizations, and other entities, such as through pages or accounts.
Some of the key features of Facebook include:
1. News Feed: Facebook's algorithm-driven feed shows users a stream of updates from their friends, family, and groups they are part of. Users can customize their news feed by unfollowing or blocking certain people or pages.
2. Groups: Facebook offers various groups for users to join, depending on their interests. These groups can be used for discussion, networking, or other purposes.
3. Photos and Videos: Users can share photos and videos with their friends and followers, and they can also view content shared by others.
4. Messenger: Facebook offers a built-in messaging system that allows users to communicate privately with their friends and family.
5. Events: Users can create or join events on Facebook, which can be used for planning gatherings, meetups, or other activities.
6. Pages: Businesses, organizations, and other entities can create pages on Facebook to connect with customers, fans, or followers.
7. Advertising: Facebook offers advertising options for businesses, allowing them to reach their target audience through sponsored posts, display ads, and more.
Overall, Facebook is a versatile platform that allows users to stay connected with friends and family, discover new content, join communities, and more! 😊
Facebook は、ユーザーが友人、家族、同じ興味を持つ他の人々とつながることを可能にするソーシャル メディア プラットフォームです。 2004 年にハーバード大学のマーク ザッカーバーグと彼のチームによって立ち上げられ、それ以来、世界で最も人気のあるソーシャル メディア プラットフォームの 1 つになりました。Facebook を使用すると、ユーザーは個人プロフィールを作成し、友達を追加し、最新情報や写真を共有し、参加することができます。 グループなど。 ユーザーは Facebook を使用して、ページやアカウントなどを通じて企業、組織、その他のエンティティとつながることもできます。Facebook の主な機能には次のようなものがあります。 ニュース フィード: Facebook のアルゴリズム主導のフィードは、ユーザーの友人、家族、所属しているグループからの更新情報のストリームを表示します。 ユーザーは、特定の人やページのフォローを解除したりブロックしたりして、ニュース フィードをカスタマイズできます。2. グループ: Facebook では、ユーザーが興味に応じて参加できるさまざまなグループを提供しています。 これらのグループは、ディスカッション、ネットワーキング、またはその他の目的に使用できます。3. 写真とビデオ: ユーザーは写真やビデオを友達やフォロワーと共有したり、他の人が共有したコンテンツを表示したりすることもできます。 メッセンジャー: Facebook は、ユーザーが友人や家族とプライベートに通信できるようにする組み込みのメッセージング システムを提供します。5. イベント: ユーザーは Facebook 上でイベントを作成したり、イベントに参加したりできます。これは、集会、ミートアップ、またはその他のアクティビティの計画に使用できます。 ページ: 企業、組織、およびその他のエンティティは Facebook 上にページを作成して、顧客、ファン、またはフォロワーとつながることができます。7. 広告: Facebook は企業向けに広告オプションを提供し、スポンサー付きの投稿やディスプレイ広告などを通じてターゲット ユーザーにリーチできるようにします。全体として、Facebook はユーザーが友人や家族とつながりを維持したり、新しいコンテンツを発見したり、コミュニティに参加したりできる多用途のプラットフォームです。 、 もっと！ 😊
課題
なぜ、回答が英語だけなのか？日本語で回答することは不可能なのか考えたが、そもそも回答の処理を日本語で持つことや翻訳処理をしないと厳しいだろうなと感じてはいる。chat-gptはどうしているのか分からないが、originが英語であるのであれば、翻訳を内部的にしているのではないかと思う。モデルによっては日本語のモデルもあるとは思うけど、gpt4allがサポートするかは不明である。
なお、chat-gptと同じことが出来るかは不明なので、必要に応じて検証してほしい。あくまで自分の目的が果たせるかをベースに検証しているだけなので、モノによっては難しいと思われる
良いところ
利点としては、CPUで処理できること、また、pythonもサポートしているので興味があれば試してみるとよい
おわり！