#エンジニア系記事まとめ｜noteマガジン

LLMプロダクト開発とはどういうものなのか？

LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由という記事を書きました。 mutaguchiさんのツイートを見て、LLMプロダクトの開発とはどういうものなのかを知らない人も多いのかなと気づいたので、そこらへんを記事として書いてみます。 LLMプロダクト開発についてLLMを使ったプロダクトの開発として、世界で最もユースケースがわかりやすいのがチャットアプリです。弊社もシゴラクAIを手がけています。 ChatGPTのインパクトが強く、言語系の

LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由

もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。対象読者NVIDIAが絶対にいいという人はこの記事の対象読者ではありません。また、用途によって、ローカルマシンによるローカルLLMが向いてる・向いてないは明確にあるので、向いてない用途にしか使わない人も対象読者ではありません。あしからず。また、この記事は別にNVIDIAをdisる意図はありません。みんな違っていい。NVI

SAPは何故使いにくいのに、世界中で愛されているのか

定期的に見かけるSAPを入れても碌なことがないみたいなやつ。現場の人や中間管理職の感想としては全く正しいが、本当にERPがゴミならば（主にグローバル大企業で）これだけ普及しているわけもないわけで、なにかしら使う側に問題があるのかもしれません。私が新卒入社した会社でも当時のメインフレームをSAPに置き換えるみたいな話があって、コスト削減で大変な工場でそんなものは入れられないみたいな議論があったのは覚えています。その時のラインマネージャーの一人が、「ERPは給料が安い人を大量

自宅PCでクラスターを構築：コンシューマーGPUの枠を超え、大型LLMをローカルで動かす！

最近オープンになる大規模言語モデル（LLM）が、軒並みGPT-4レベルの性能となっています Huggngfaceで無料でダウンロードできるのですが、問題は必要VRAM容量です話題の、Command-r-Plusは、日本語性能について評価が高く、一部の性能はGPT-4並みと言われますが、さすがに大型で104Bパラメータもあるため、4bitに量子化しても60GB程度のVRAMが必要となります。コンシューマークラスのGPUの最高峰、RTX4090は、VRAM24GBのため、

いちばんやさしいローカル LLM

概要ローカル LLM 初めましての方でも動かせるチュートリアル最近の公開されている大規模言語モデルの性能向上がすごい Ollama を使えば簡単に LLM をローカル環境で動かせる Enchanted や Open WebUI を使えばローカル LLM を ChatGPT を使う感覚で使うことができる quantkit を使えば簡単に LLM を量子化でき、ローカルでも実行可能なサイズに小さくできる 1. はじめに大規模言語モデル（LLM）の数は数年前と比べてたく

【未経験からプログラマ】上昇するキャリアチェンジ難易度とその背景

先立ってXにて「無報酬でも経験を積みたい人達」を募集するSES社長が話題でした。下請法的な観点でも問題ですし、契約書の有無も気になります。当人が途中で連絡が取れなくなった場合には責任はどこにあるのかも気になります。無報酬のものが実績になるのか？という疑問も話題になっていました。この投稿に対し、4名程度のアカウントから応募があったことが確認されました。未経験とだけ書いてあるアカウントプログラミングを始めて3年経過しているものの、まだ未経験を謳っているアカウント現

NewSQLはデータベースに革命を起こすか - NetflixにおけるCockroachDBのユースケース

近年のデータベースの新潮流にNewSQLと呼ばれる一群のデータベース製品群の登場がある。そのコンセプトを一言でいうと、RDBとNoSQLのいいとこどりである。SQLインタフェースと強いデータ一貫性（ACID）というRDBの利点と水平方向のスケーラビリティというNoSQLの長所を兼ね備えた夢のようなデータベースである。下図に見られるように、RDBとNoSQLが鋭いトレードオフを発生させていたのに対して、NewSQLではそれが解消されているのが分かる。本当にそのような夢の実現

米国連邦政府におけるクラウド戦略 - クラウドセキュリティをどう担保するか

さて、米国連邦政府のクラウド戦略についてのレポートその2である。その1はこちらを参照。その1を読んでいなくても支障はないが、歴史的な話をしているので先に読んでいただくと理解が捗ると思う。前回は、どちらかというと連邦政府の取り組みがうまくいかなかった、というトーンで話をしたが、公平を期して言うならば、成功している部分もあるし、うまくいかなくても諦めず粘り強く進行している取り組みもある。こういうとき米国人というのは強くて、失敗を教訓にどんどん再トライを繰りかえし、大きなブレイ

米国連邦政府におけるクラウド戦略「Cloud First」の失敗と教訓

本稿の趣旨は米国連邦政府のクラウド推進戦略、いわゆる「Cloud First」から始まる一連の政策が辿った経緯を概観することである。米国のクラウド戦略は、掛け声こそ勇ましかったものの、あまりうまくいかなかった。これは筆者の主観ではなく、連邦政府自身がそれを認めるレポートを出している。あとで具体的に見ていこうと思う。本邦においてもガバメントクラウドが本格的に動き出している。さくらインターネットが政府公認のベンダーとして認証を受けたことが話題になったのはつい最近のことだ。本邦

1bit LLM の時代は来るのか，来ないのか，どっちなんだい？

徳永拓之（LeapMind（株）） 1bit LLMの時代が来る？　2024 年2 月，The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits¹⁾ というタイトルの論文がarXiv上で公開され，にわかに話題となりました．“1.58 Bits” という表現はあまりなじみがありませんが，log₂(3) = 1.58 . . . ということで，パラメーターを三値にした場合の情報量を示しているようです．この

ポストSaaSとしてのONCEモデル

ONCEモデルとは今年３月に海外のSaaS業界で、あるニュースが話題になりました。 Railsの作者で37signals社のCTOでもあるDHHは、SaaSとして提供していたチャットシステムを、今後新たな機能開発はしないという前提で、買い切りのソフトウェアとて提供し、１週間足らずで25万ドルを売り上げたとブログで報告しました。 SaaSに対置されるこの販売モデルを、37signalsではONCEモデルと呼び、さらに取り扱うシステムを増やしていく計画を発表しています。ユー

クレディセゾンでDXを進めてきた5年間を振り返る

はじめにクレディセゾンに来てちょうど５年が経ったので、これまでの取り組みをまとめてみようかと思う。書き進めていくうちにとても長くなってしまったので、1年につき3トピックに絞ってあとはカットした。それでも5年分なこともありかなり長くなったので、目次から各トピックに飛んでもらえればと思う。社内の関係者も読むかもしれず、「自分のやったことが載ってない！」と思うこともあるかもしれないが、内製開発案件だけでも53案件あり全部載せるととんでもない量になるので許してほしい。それから、振り返

地方エンジニアの採用事情

ここ数年、地方支社を増やすIT企業が増えている中で実際、地方でのエンジニア採用事情はどうなのか？を記事に書きました！はじめに・カヤックの記事・freeeインタビュー記事私のプロフィールは下記を読んで頂ければと思います。結論①コロナ禍を機に地方の採用市場は大きく変化した。コロナ禍で東京企業の全国採用が加速する中で地方でのエンジニア採用は難易度が上がっている。地方でも給与水準が上がってきており、やりがいを重視するエンジニアが増えていると考えられます。また、エンジ

とあるITエンジニアの転職事情

　この度、2回目の転職活動を終えて、3社目への移転を控えた、まもなく社会人6年目のITエンジニアです。執筆時点2社目に勤めていますが、1年という短い期間で再度の転職を行うに至った経緯と、転職中に感じたことを書き記すために筆を執りました。　転職活動の話はこれから活動予定の方の助けにもなるかなと思うので、そこだけ見たい方は、"転職経緯"と"1回目の転職"、"2回目の転職"、"転職活動で感じたこと"をご覧ください。参考になれば嬉しいです。転職経緯　結論から述べると、業務内容の

#エンジニア 系記事まとめ

記事一覧