とるん

とるん

国家公務員をやめてITベンチャーに転職した話

2024年3月31日で7年努めた公務員をやめて、ITベンチャーに転職しました。 今後同じ判断をする人や今後の自分のために、何を悩んで、どうやって決断したかをメモしておきます。 転職時の経歴・資格略歴としては、高校卒業後に技官として入省し、無線&有線通信の整備・運用・保守や情報処理システムの管理(PL/PM)などを7年間やっていました。 転職時に取得していた資格は下記の通りで、通信系のエンジニアから情報処理系に転向した感じです。 1級陸上無線技術士/２級陸上無線技術士

とるん

    • AI x Game Character Meetup powered by CyberAgentに参加して

      こちらのイベントに参加した際に聞いたこと・話したことのメモです。 LLMと記憶・感情についていつも話題なるトピック。色々と話し合ったがポイントは以下の数点だった気がする。 記憶保存＝学習ではなさそう、学習＝知識獲得である。記憶は何かしらの構造でデータとして、モデルとは別で保存する仕組みが必要そう。 記憶は、ベクトルとして保存するのもいいけど、生テキストで利用しても十分使えそう。もっと本物の記憶にするにはグラフデータとして処理する仕組みが必要そう。さらに記憶の重みづけを専

      とるん

      • ローカルでLLM-jp-13Bを動かす

        NII主宰のLLM勉強会（LLM-jp）が公開したモデルをローカルのGPUで動かします。利用したモデルは、instructの全部のせ？のモデルです。 環境GPU：NVIDIA GeForce RTX3060 12GB RAM：32GB torch：2.0.1 transformers：4.30.2 Docker上にJupyterLabを構築しています。 モデル読み込みデモコードのままロードするとクラッシュするので、8bit量子化でロードします。 import torch

        とるん

        • AIに遊んでもらうゲームをAIに作ってもらう#2

          前回の記事では「すごろく」を実現するAPIを簡単に構築しました。 今回はゲーム性を上げるために、以下の機能追加をします。 進む・戻る機能の追加 複数ユーザーで遊べるように機能の追加 表示用(GUI用)のデータ取得機能の追加 機能追加の前に、一部の数値を定数として定義して下記のコードとしていきます。また、初回プレイ時の挙動も変更しています。 from flask import Flask, request, jsonifyimport randomapp = Fl

          とるん

        国家公務員をやめてITベンチャーに転職した話

        とるん

          AIに遊んでもらうゲームをAIに作ってもらう#1

          AIキャラクターがゲームを遊んでいるところが見たいという思いから、いい感じのゲームを捜索していたのですが、なかなか見つかりません… そこで、いっそのこと「AIキャラクターが遊びやすいゲーム」を作ろうと思い、作業した記録です。 AIキャラクター(LLM)が遊びやすいゲームの条件自分が考える条件は以下のとおり。 ルールがシンプル アクションが少ない リアルタイム性がない（ターン制など） APIが公開されている あとは継続的なことを考えると以下の条件もほしい。 対戦

          とるん

          AIに遊んでもらうゲームをAIに作ってもらう#1

          とるん

          AIキャラクターオフ会 at Tokyo #0 by Saldra に参加して

          こちらのイベントに参加したレポです。 かなりたくさんの方が参加されていて、AIキャラの盛り上がりを感じました。 「御杖みこ」のWebUI デモ配信用のWeb画面に「疑似コメント送信機能」と「コメント履歴表示機能」を追加して、簡易的なWebUIでの会話をデモで公開しました。 ローカルLLMとVOICEVOXの組み合わせで、送信から応答までおおよそ１秒前後で応答してくれるので、割と遊べるかと思います。 これを使えば、配信とWebの複数インターフェースでコミュニケーションが取れ

          とるん

          AIキャラクターオフ会 at Tokyo #0 by Saldra に参加して

          とるん

          LLM Lounge by Masuidrive #3 in Shibuyaに参加して

          #2に続き、こちらイベントに参加してきましたレポートです！ LocalLLM前回と同じLocalLLMの卓へ参加しました。 前回はかなり技術よりな話が中心でしたが、今回は事業/使い方よりの話が多かったイメージです。 Llama2 試しましたか？ 最初の話題はやはりLlama2でした。割りと実用性がありそうとの話が多かったイメージです。 数個のデータセットで英語以外の言語を引き出せそうなので、追加学習する価値がかなりありそうな印象です。 ローカルであるメリット 他にも

          とるん

          LLM Lounge by Masuidrive #3 in Shibuyaに参加して

          とるん

          あいちゅーばー開発者オフ会#2に参加して

          「あいちゅーばー開発者オフ会」に参加しましたので、お聞きしたこと、お話したことをまとめておきます。 眠い中で適当に書き出したので、メモレベルです。 本題AITuberのコラボ規格 LTの中でAITuberのコラボ規格のお話が個人的には興味深かったです。 自分も何かしらのコラボツールは必要だと思っているので、どういった形で発表されるのか楽しみです。 また、交流中にDiscordを使って、音声とテキストを同時にやり取りできれば、VTuberのコラボぽくていいですねという話も

          とるん

          あいちゅーばー開発者オフ会#2に参加して

          とるん

          個人的に予想するAITuberの未来

          AITuber元年と言えそうな2023年も半分終わりました。 ここ半年で感じたことから、AITuberが今後どのような未来に進むか自分なりに予想してみました。 そもそもAITuberとは？AITuberとは、広く浸透しているイメージは「AIが演じるVTuber」だと思っています。もともとは、「AIVtuber」という表記も見られたぐらいです。 また、AITuberよりも広義の呼び方として、「AIキャラク」や「AIエージェント」という名称もありますが、どれも微妙にニュアンスに

          とるん

          個人的に予想するAITuberの未来

          とるん

          LLM Lounge by Masuidrive #2 in Shibuyaに参加して

          こちらのイベントに参加してきましたので簡単に聞いたお話を共有します。 ワイワイと対面でAIについて話せて非常に有意義でした！ 自分は「ローカルLLM」の卓で参加させていただきました。 LLMの話日本語のローカルLLM 話の全体を通して、日本語の3bや7bでは性能が足らないというのを、皆さん感じているようでした。 タスク処理をさせようとすると13b程度がリソースと性能のバランスがいいのではないかという感触のようです。 rinnaさん、cyberAgentさん、13bの公

          とるん

          LLM Lounge by Masuidrive #2 in Shibuyaに参加して

          とるん