東京 AI 研究所

東京 AI 研究所 / 最近noteを開設しました

東京 AI 研究所

東京 AI 研究所 / 最近noteを開設しました

最近の記事

純粋なC言語を使用した大規模言語モデルトレーニングツール「llm.c」

LLMのトレーニングを、純粋なC/CUDAでシンプルに行います。245MBのPyTorchや107MBのcPythonは不要です。たとえば、GPT-2(CPU、fp32)のトレーニングは、約1,000行のクリーンなコードで1つのファイルに収められています。コンパイルしてすぐに実行可能で、PyTorchのリファレンス実装と完全に一致します。最初に機能する例としてGPT-2を選んだのは、現代のスタックが初めて組み合わさったとき、LLMの始祖であるからです。 現在取り組んでいるこ

    • 自分のPCにインスト可能なLLM "Jan" 誕生

      Janは、コンピュータ上で100%オフラインで動作するオープンソースのChatGPT代替品です。 Janはあらゆるハードウェア上で動作します。PCからマルチGPUクラスターまで、Janは以下のユニバーサルアーキテクチャをサポートしています: Nvidia GPU(高速) Apple Mシリーズ(高速) Apple Intel Linux Debian Windows x64 インストール方法 Jan | Rethink the Computer 例えばMac

      • GPT5 vs GPT4

        OpenAIはGPT-5を2024年に公開することを歓迎しており、その発展は業界全体の注目を集めています。GPT-5のリリースは、より高度な学習能力と外部知識ベースとの統合を通じて、テキストやコーディングを超えた実世界の情報にアクセスし、それを活用できる可能性を秘めています。さらに、音声、画像、およびコーディングの各タイプの情報を扱うことができ、これらをより効果的なモードで提供することが期待されています​。 OpenAIのCEOであるSam Altmanは、GPT-5の構築

        • iPhoneが重いときにやるべきこと7選

          iPhoneのパフォーマンスが低下して、操作が重たく感じることはあります。ここでは、iPhoneの動作を軽くするために試すべき7つの方法を、No.7から順に紹介します。 No.7: Wi-FiやBluetooth設定を見直す デバイスの接続設定が原因でパフォーマンスが低下することがあります。Wi-FiやBluetoothの設定を見直し、不要な接続は切断することで、改善される場合があります。 iPhoneのWi-FiとBluetooth設定を見直すことは、デバイスのパフォ

        純粋なC言語を使用した大規模言語モデルトレーニングツール「llm.c」

          Claude 3 まとめ

          Claude 3は、Anthropicによって開発された最新の大規模言語モデル(LLM)ファミリーであり、AIの能力と安全性の境界を拡張することを目指しています。このファミリーには、Opus、Sonnet、そしてまだリリースされていないHaikuの3つのモデルが含まれます。各モデルは、特定の用途とパフォーマンスのニーズに対応するように設計されています​。 Claude 3 Opus 最も高度なモデルであり、複雑なタスクやオープンエンドのプロンプトに対する人間に近い理解と応

          GPT4に「Claude 3 Opusは君より賢いの?」と聞いてみた結果

          Claude 3 Opus って話題になってる。 君(ChatGPT4)よりどれくらい賢いの? Claude 3 OpusはAnthropicが開発した最新の大規模言語モデル(LLM)で、Claude AIチャットボットの動力となっています。Claude 3にはOpusの他に、SonnetとまだリリースされていないHaikuの2つのモデルがあります。Claude 3 Opusは、特に複雑なタスクにおいて市場で最も高いパフォーマンスを発揮するとされ、GPT-4や他のAIモデル

          GPT4に「Claude 3 Opusは君より賢いの?」と聞いてみた結果

          GPT4 vs Claude 3 Opus

          AI言語モデルの進化と競争は、OpenAIのChatGPT-4とAnthropicのClaude 3 Opusの最近の発展により、加速しています。これらのモデルは、GoogleのGeminiを含め、AIが達成できる範囲の限界を押し広げており、異なるニーズや好みに対応するための特徴と性能を提供しています。 性能と能力 ChatGPT-4は、画像ベースのクエリとファイルアップロードをサポートする高い汎用性と能力を持つモデルとして現れ、その応用範囲を大幅に広げています。テキスト

          GPT4 vs Claude 3 Opus

          WindowsPCを重くしているアンチウィルスソフト 5選 

          Windows PCを重くしてしまうアンチウイルスソフトウェアは、システムリソースを大量に消費し、PCのパフォーマンスに悪影響を与えることがあります。特に、古いハードウェアを使用している場合や、同時に多数のアプリケーションを実行している場合に、この影響が顕著になることがあります。ここでは、Windows PCを重くする可能性のあるアンチウイルスソフトウェア5選とその対処法について紹介します。 No.5 Norton 360 Norton 360は、高度なセキュリティ機能を

          WindowsPCを重くしているアンチウィルスソフト 5選 

          AIの最終勝者はOpenAIでもgoogleでもなく、nVidiaである理由

          nVIdiaの株価が1日で42兆円急騰して約300兆円 一日の伸びとしては米市場最大でした。 ※三菱UFJ銀行の時価総額が18兆円 OpenAIがChatGPTとSORA Meta(旧FaceBook)がLAMA googleはGemini など矢継ぎ早に開発が進んでいるが、これらの成果物は既存のインフラに僅かな付加価値を加えることで進んでいる。 ※ こやし|生成AIマニア様よりご指摘いただ記事訂正しました。 GPT-3やGPT-4 も突然単独で登場したわけではなく、O

          AIの最終勝者はOpenAIでもgoogleでもなく、nVidiaである理由

          Sora の動画生成に震えが止まらない動画制作業界

          網膜から入った情報の大脳での処理の機能拡張が射程距離に入りました。

          Sora の動画生成に震えが止まらない動画制作業界

          Googleがオープンかつ商用利用可能で軽量な大規模言語モデル「Gemma」を公開

          Googleは2024年2月22日に、オープンソースの大型言語モデル「Gemma」を発表しました。このモデルは、多様なモードを扱うGemini AIに比べてより軽量であり、商業目的での使用も認められています。 Googleからの提供であるGemmaは、最新の軽量オープンモデルの一員です。 | Google AI for Developers https://ai.google.dev/gemma?hl=ja Gemma: Geminiの研究と技術に基づくオープンモデル (

          Googleがオープンかつ商用利用可能で軽量な大規模言語モデル「Gemma」を公開

          Windowsパソコンが重いときにやるべきこと 3 選

          No.3 高速スタートアップの設定を見直すWindowsでは、高速スタートアップ機能があります。これはパソコンの終了時のCPUやメモリ状態を保存し、起動時間を速くする機能です。しかし、この機能が原因で周辺機器が認識されないなどのエラーが発生することがあります。そのため、問題がある場合は無効にすることで改善する場合があります。 Windows 10またはWindows 11で高速スタートアップ機能を無効にする手順は以下の通りです。高速スタートアップは、シャットダウン時のシステ

          Windowsパソコンが重いときにやるべきこと 3 選

          ラズパイの開発元がロンドンで上場準備

          SONYも資金調達に関与か? [日本語訳は本記事後半] Raspberry Pi Ltd, the renowned UK-based computer manufacturer known for its affordable and compact computing solutions, is actively preparing for an Initial Public Offering (IPO) on the London Stock Exchange, ta

          ラズパイの開発元がロンドンで上場準備

          【訃報】プログラミング言語「Pascal」の開発者ニクラウス・ヴィルト氏 死去 (89)

          プログラミング言語パスカルの開発者 ニクラウス・ヴィルト氏が2024年1月1日に亡くなりました。89歳でした。 ヴィルト氏は1963年にカリフォルニア大学バークレー校で情報工学の博士号を取得しました。その後、スタンフォード大学やチューリッヒ大学で助教授として教鞭を執りながら、1965年に「Euler」というプログラミング言語を、1966年には「PL360」というプログラミング言語を開発しました。そして、1970年には教育用プログラミング言語として「Pascal」を発表しまし

          【訃報】プログラミング言語「Pascal」の開発者ニクラウス・ヴィルト氏 死去 (89)

          ChatGPT + DALL-E3 モネ 女性画展

          ChatGPT + DALL-E3 モネ 女性画展

          python + mojo Appleシリコン 解禁 Python x90449倍

          ついに登場。 9月7日にLinuxシステム用のMojoローカルダウンロードをリリースし、わずか1ヶ月以上で数万回のダウンロードと、llama.🔥やInfermoといった素晴らしいコミュニティプロジェクトへの貢献が開始されるなか、ついに Appleシリコン版が解禁されました。 この記事では、MacでMojo SDKを開始する方法について紹介します。MacでのMojo SDKのダウンロードとインストール方法を詳しく見ていき、Mojoの学習を開始するのに役立つ人気のあるコミュニ

          python + mojo Appleシリコン 解禁 Python x90449倍