Koboichi

AIについて学んだことを日々共有しています。

Koboichi

AIについて学んだことを日々共有しています。
  • 固定された記事

生成AI活用の本質：サービス導入よりもまずはChatGPTの使いこなしから

お疲れ様です。 ChatGPTのリリース以降、生成AIブームが続いています。そして、多くの企業が生成AIの活用に力を入れ始めています。 しかし、その取り組み方に少し違和感を感じることがあります。 ChatGPTを社内で利用可能にし、それを活用するための教育を推進することは重要だと思います。一方で、生成AIを使ったサービスを導入する際には、慎重さが求められると考えています。 もちろん、生成AIを活用したサービスの社内開発や、他社製の生成AIサービスの導入を検討することも

Koboichi

    • RLHFってめっちゃ人件費かかりそう

      お疲れ様です。 日々、ChatGPTをはじめとするLLMとの対話を通じてAIについて学んでいます。 最近ふと「RLHFの学習って、人件費がかなりかかるんじゃないか？」と気づきました。 LLMの学習には、事前学習として次に続く単語を予測するプロセスと、その後に人間に好まれる回答をするように調整するSFT（Supervised Fine-Tuning）やRLHF（Reinforcement Learning with Human Feedback）があります。 最後のプロ

      Koboichi

      • LLMは次の単語を予測し続けているというのは本当か？

        お疲れ様です。 日々、ChatGPTをはじめとするLLMとの対話を続けています。 LLMの原理を説明する際、よく「次に続く単語を予測し続けている」と表現されます。 もちろんその通りなのですが、最近ふと「あれ？この説明は正確なのだろうか？」と疑問に思うようになりました。 LLMの学習プロセスは、次の単語を予測する能力を身につける事前学習と、その後、回答の質を高めるSFTやRLHFに分けられます。特にRLHFでは、特定の質問に対して複数の回答を用意し、人間（アノテーター）

        Koboichi

        • OpenAIの原点：強化学習研究がGPTシリーズに与えた影響

          お疲れ様です。 日々、ChatGPTをはじめとするLLMと対話を重ねていますが、最近ふと「OpenAIは、GPTシリーズを開発する前に何をしていたんだろう」と思い、少し調べてみました。 OpenAIが創設されたのは2015年12月、そしてTransformerアーキテクチャが登場したのは2017年6月です。 OpenAIは、このアーキテクチャが発表された後、その有用性にいち早く気づき、Transformerを活用したGPTシリーズの開発に着手し、知名度を得ました。 つ

          Koboichi
        • 固定された記事

        生成AI活用の本質：サービス導入よりもまずはChatGPTの使いこなしから

        Koboichi

          o1-previewはLLM開発のパラダイムシフトになる？

          お疲れ様です。 OPENAIからo1-previewがリリースされたのは2024年9月12日で、約1ヵ月が経ちました。 私自身、恥ずかしながら、まだo1-previewをどのように使いこなすべきか手探りの状態で、使ったり使わなかったりしていますが、ふと最近、そのポテンシャルの高さに、改めて気づきました。 例えば、「日本一高い山は？」と聞くと、人は何も考えずに即座に「富士山です」と答えられますが、「税金の仕組みを小学生にも分かるように説明して」といった複雑なリクエストに対

          Koboichi

          o1-previewはLLM開発のパラダイムシフトになる？

          Koboichi

          ChatGPTで楽しく学べる！税金の手続きがこんなに簡単になるなんて

          お疲れ様です。 日々、ChatGPTをはじめとするLLM（大規模言語モデル）と対話をしています。 最近、税務関連の手続きを行う必要がありましたが、難解な専門用語が多く、思わず投げ出したくなってしまいました。 そんな時、ChatGPTに例えば「控除ってなに？小学生でも分かるように説明して」などと繰り返し質問することで、税金について理解を深めることができ、無事手続きを完了させることができました。 LLMがない時代だったら、おそらく何日もかかっていたでしょうし、そもそもやる

          Koboichi

          ChatGPTで楽しく学べる！税金の手続きがこんなに簡単になるなんて

          Koboichi

          Perplexity活用術：契約内容のキャンセル

          お疲れ様です。 日々、ChatGPTをはじめとするLLMと対話を続けています。 先日、ネットで新しいスマホを購入したのですが、最初に間違ったカラーで購入手続きをしてしまいました。 そこで、ネットでキャンセルしようと試みたのですが、どこから手続きすれば良いのか分からず、悪戦苦闘していました。 その時に、ふと「ネット検索をした上で回答を生成してくれるPerplexityを使えば解決策を得られるかもしれない」と思い「○○の機種を色違いで購入してしまいました。キャンセル方法を

          Koboichi

          Perplexity活用術：契約内容のキャンセル

          Koboichi

          半導体チップを作るのに何で純水が必要なの？

          お疲れ様です。 先日、半導体に詳しい方とお話しする機会があり、「半導体工場の立地条件で重要なものは何ですか？」と質問したところ、「安定した電力供給ときれいな水」という回答をいただきました。 安定した電力供給が重要なのは理解できますが、なぜきれいな水が必要なのかがよくわからず、少し調べてみました。 その結果、半導体の製造工程では、大量の純水が必要だということがわかりました。 半導体チップは、シリコンウェーハ上に微細な回路を転写する工程を繰り返して製造されます。この過程で

          Koboichi

          半導体チップを作るのに何で純水が必要なの？

          Koboichi

          ChatGPTを使いたい？まずは本物のアプリを選ぼう

          お疲れ様です。 ChatGPTなどのLLMと日々対話を続けています。 先日、知人が「ChatGPTを使ってみたい」と言ったので、「まずはアプリをインストールしてみて」と勧めました。 すると、「似たようなアプリが複数あって、どれが本物かわからない」と返されました。私は「ChatGPTは一つだけじゃないの？」と思いつつ、知人のスマホ画面を確認したところ、アプリストアには、確かにOpenAIのロゴに似たチャットボットアプリがいくつも表示されていました。 最終的には、正しいア

          Koboichi

          ChatGPTを使いたい？まずは本物のアプリを選ぼう

          Koboichi

          13歳以上限定？ ChatGPTの子供利用における課題と展望

          お疲れ様です。 日々、ChatGPTをはじめとするLLM（大規模言語モデル）と対話を続けています。 最近、ふと「サンタクロース」に関する質問をChatGPTにしてみたら、どのような回答が返ってくるのか気になり、少し調べてみました。詳細は割愛しますが、「これを子供に言ってしまっていいのだろうか？」と感じる内容が含まれていました。 ChatGPTは非常に有用なツールであり、今後ますます利用者が増えると思います。ただ、子供が利用することを考慮した回答の調整が必要だと感じました

          Koboichi

          13歳以上限定？ ChatGPTの子供利用における課題と展望

          Koboichi

          歌詞や小説の質問に注意！LLMと著作権の現状とは？

          お疲れ様です。 私は日々、ChatGPTをはじめとするLLMとの対話を続けています。 最近、ふと「ChatGPTは曲の歌詞を出力できるのだろうか？」と思い、「『世界に一つだけの花』の歌詞を出力して」と試しに頼んでみました。 すると、「著作権の関係で歌詞を出力することはできません」という返答が返ってきました。 インターネット上で曲の歌詞を表示できるサイトがある一方で、コピーは制限されている場合が多いように、LLMでも著作権を考慮し、歌詞の取り扱いには慎重に対応しているよ

          Koboichi

          歌詞や小説の質問に注意！LLMと著作権の現状とは？

          Koboichi

          LLMとの対話の本質は関係性を築くこと

          お疲れ様です。 日々、ChatGPTをはじめとするLLMと対話を続けています。 先日、初対面の方とAIについて雑談する機会があり、「ChatGPTとは関係性を築けているけど、Geminiとはまだ関係性を築けていないんですよね」と話したところ、笑いが起きました。 おそらく、LLMというツールに対して「関係性を築く」という人に対するような表現を使ったことが面白かったのだと思います。 私も半分くらい冗談のつもりで言ったのですが、実際のところ半分は本気です。 それだけに、L

          Koboichi

          LLMとの対話の本質は関係性を築くこと

          Koboichi

          ChatGPTが普及したのは、差別的な発言をしないくらい賢かったからでは？

          お疲れ様です。 日々、ChatGPTをはじめとするLLMと対話を続ける中で、最近「ChatGPTはなぜここまで広まったのだろうか？」と考えてみました。 結論から言うと、私は「ChatGPTが、倫理的な価値観を持っていたからでは？」と考えています。 この「倫理的な価値観」とは「差別的な発言をしない」「犯罪を助長するような助言をしない」といった能力を指します。 つまり、ChatGPTは自然な会話を実現するとともに、倫理的に正しい振る舞う能力が備わっています。 その結果、

          Koboichi

          ChatGPTが普及したのは、差別的な発言をしないくらい賢かったからでは？

          Koboichi

          LLMと教育の未来：効率と倫理のはざまで

          お疲れ様です。 最近、大学の授業の宿題を行う必要がありましたが、いちいち調べるのが面倒だったので、LLMに課題を丸ごと渡して回答させてみました。 その結果、ほぼ正しい回答を導くことができ、無事に課題をパスしました。 「これって、人としてどうなんだろう？」と少し思いましたが、今後は「LLMを活用して効率的に課題を解決する能力こそが今後求められるのでは？」とも感じます。 逆に言えば、LLMに聞けば簡単に解決できてしまうような問題を宿題として出すこと自体が、今の時代にはそぐ

          Koboichi

          LLMと教育の未来：効率と倫理のはざまで

          Koboichi

          CNNからTransformerへ：AIの発展が示す半導体チップの未来

          お疲れ様です。 日々、ChatGPTとの対話を通じてAIについて学んでおります。 最近、AIの発展と半導体チップのメモリの転送速度について、関係性があることに気づいたので共有させてください。 AI分野が大きく進展したきっかけは、2012年に登場したAlexNetという画像認識モデルです。このモデルでは、畳み込みニューラルネットワーク（CNN）が使われており、それ以降、CNNをベースにした深層学習モデルの開発が進みました。 当時のAI開発では、入力画像に対して「カーネル

          Koboichi

          CNNからTransformerへ：AIの発展が示す半導体チップの未来

          Koboichi

          GPU性能を引き出す鍵：高速メモリHBMの役割と重要性

          お疲れ様です。 最近になって、ようやく半導体チップの重要性に気づき、いろいろと調べています。 半導体チップの性能を考える際、多くの人がGPUの演算処理能力に注目しますが、実はGPUにデータを転送するメモリも非常に重要な役割を果たしています。 メモリに一時的に保存されたパラメータなどの情報を効率的にGPUに渡すことで、GPUの性能を最大限に引き出すことができます。 例えるなら、優れたシェフがどれだけ高速で料理を作れても、そのシェフに食材を素早く渡すアシスタントがいなけれ

          Koboichi

          GPU性能を引き出す鍵：高速メモリHBMの役割と重要性

          Koboichi