マガジンのカバー画像

独学のすすめ

60
運営しているクリエイター

2023年4月の記事一覧

大規模言語モデル間の性能比較まとめ

大規模言語モデル間の性能比較まとめ

StableLMのファインチューニングってできるのかな?と調べたところ、GitHubのIssueで「モデル自体の性能がまだ良くないから、ファインチューニングの段階ではないよ」というコメントがありまして。

その根拠として提示されていた大規模言語モデル間の性能比較シートがとても参考になったので共有したいと思います。

シートの中身を見てみるstablelm-base-alpha-7bは54行目にあり

もっとみる
大規模言語モデルを自社でトレーニング&活用する方法

大規模言語モデルを自社でトレーニング&活用する方法

オンラインIDEを提供しているReplitでは自社で大規模言語モデルをトレーニングしているらしく、そのノウハウがブログ記事にまとめられていたので要約してみました。

なぜ自社で大規模言語モデルをトレーニングするのか?企業が独自に大規模言語モデル(以下、LLMs)をトレーニングすることを決める理由は、データのプライバシーやセキュリティから、アップデートや改良のコントロールの強化まで様々なものがあるが

もっとみる
生成系AI時代の「次のSNS」ってこういう形になりそうだよね、というメモ

生成系AI時代の「次のSNS」ってこういう形になりそうだよね、というメモ

こんにちは!

イーロン・マスクさんが買収して以降、Twitterが崩壊しているのでBlueskyにいくよ、とかmisskey.ioにいくよ、とかいろいろな話がでたり、いやいや、SNSはやっぱり人がいるのが大事だからすぐTwitterに戻ってくるでしょ、みたいなことを言われたりとか、いろいろ盛り上がっていますが・・・。

次世代のSNSはこうなるんじゃないかな?と思っていることがあるので、雑記がて

もっとみる
GPT-4以降,英語が最強のプログラミング言語になりつつある状況をまじめに考えてみる.

GPT-4以降,英語が最強のプログラミング言語になりつつある状況をまじめに考えてみる.

これからの時代、英語がプログラミング言語としての地位を確立し、最強のプログラミング言語となる可能性があるということを真剣に考えるべきだ。その理由として、以下の点から説明していく。

まず、GPT-4の登場によって、自然言語処理技術が飛躍的に進化し、人間のような文章の生成が可能になった。これにより、プログラマが英語で自然にコードを書くことができ、コンピュータもそれを理解し実行することができるようにな

もっとみる