#python
GPT-2(124M)をllm.cでGoogle Colab環境で再現チャレンジしてみる
今回は、下記の「GPT2(124M)をllm.cで90分間20ドルで再現してみましょう」という記事を参考に、Google Colabでも再現にチャレンジしました。
上記記事は、12層、12ヘッド、768次元の124Mトランスフォーマーモデルを、FineWebの100億トークンで訓練しています。
今回は、Google Colabで、上記コードを修正してみましたので紹介していきます。
今回のGo
今どきのGoogle Colabの紹介
最近、Google ColabのPro版を再び契約しました。ひと昔前と比べて、Google Colabが進化しているように見えます。TPU v2でメモリが300GB超えで使用できるのは凄い気がします。
過去にGoogle Colabを利用していた人向けに、今のGoogle Colabを紹介していきます。
Google Colabのリソースのタイプ今のGoogle Colabでは5種類のリソー
Google Gemini Pro VisionのAPIをStreamlitでウェブアプリ構築方法
Google Gemini Pro Visionという画像に対して操作が可能なAPIがあります。
今回、Google Gemini Pro VisionのAPIを利用して、Streamlitでウェブアプリを構築方法を紹介していきます。
まずは、app.pyとして以下を用意します。
import streamlit as stimport google.generativeai as gena
Google Gemini APIを使った凄く簡単なStreamlitのウェブアプリ構築方法
本日は2023/12/14です。Google Gemini APIが使える日です。そんなわけで、StreamlitでGoogle Gemini APIを使って、入力フォームに何か入力したら、それに対する回答を表示するウェブアプリを作成してみます。
用意するファイルは、app.pyです。xxxxxxの部分には、Google AI Studioで取得したAPIキーを入力しましょう。
app.pyの
Google ColabでStreamlitを動かす方法
今回はGoogle ColabでStreamlitをlocaltunnelを使用して動かす方法を紹介していきます。
Google ColabでStreamlitを使用するには、ngrockを利用するしかないかなと思っていましたが、もう少し楽な方法を見つけましたので、自身のメモ用として書いていきます。
!pip install streamlit%%writefile /content/app.
Google ColabのColab AIを使ってみる
Google ColabにColab AIという機能が追加されていましたので、紹介していきます。
10月前半は、Google Colabに触れていなかったので、どんな機能かワクワクしています。
おそらく、Colab Pro以上の有料プラン向けのサービスなのではないかと思います。無料で使えるのかどうかは確認していません。
Google Colabを開くと、右上に下記のようにColab AIと表
BardをPythonで使う方法
GoogleからBardが一般公開され、且つ、日本語にも対応されました。ウェブページからの操作も良いですけれど、APIキーなどを使ってPythonでプログラムを書いてみたいと多くの人が思うはずです。
今日はgithubで面白いものを見つけましたので紹介します。
今回は上記コードを利用させて頂きました。
https://bard.google.com/を開きます。
F12を押して、__Sec