記事一覧
トレーニング環境をAWS SageMakerからGCP Vertex AIへ移行したよ
こんにちは、すずきです。
以前、モデルのトレーニングにAWSのSageMaker Studioをつかっていたのですが、期間限定で$100,000(1500万円..!)のGCPクレジットをいただいたので(Google Cloud for Startupsによるスタートアップ支援)、トレーニング環境をVertex AI Workbenchに移行しました。
SageMakerとVertex AIで使
GCP Professional Cloud Architect(PCA)に合格したらGoogle Cloudからフリースをもらえたよ
こんにちは、すずきです。
先に書きますが、今回の記事はいつもよりさらに中身がないです。
先月(2024/3/15)、GCP認定資格であるProfessional Cloud Architect(PCA)を受けてきました。
Google Cloud for Startupsによるスタートアップ支援で期間限定クレジット($100,000..!)を手に入れてから、BigQueryやCloud Fu
BigQueryでLooker Studioの自動データ更新をしてみたよ
はじめにこんにちは、すずきです。
CS部門では、お客さまとの打ち合わせでLooker Studioを用いた分析データを共有しているのですが、このプロセスにいくつかの課題がありました。
課題の解決にあたって初めてGCP(BigQuery, Cloud Functions)を触ったので、備忘録として記事を書きました。
従来の手順
アプリケーションの管理画面から過去一週間分のデータをCSV形式
SageMaker TrainingのDockerイメージとConda環境を最適化したよ
こんにちは、すずきです。
以前、以下の記事でDockerコンテナ内にConda環境を設定し、Amazon SageMakerでのトレーニングを実行する手順を書きました。
また、以下の記事では、デバッグ環境(EC2/Deep Learning AMI)とトレーニング環境(SageMaker)で環境を一致させるために、condaの設定ファイルenvironment.ymlをデバッグ環境から書き出し
Bunを使ってCIの実行時間を大幅削減した
こんにちは。
株式会社OPTEMOでエンジニアをしている田代です。
久しぶりのnote投稿です。
頑張って書いています。
CIの時間はゼロにしたいCIの回る時間は、極力ゼロにしたいです。
PRを捌くことに直接的な影響はあまりないかもしれませんが、サクッとPRレビューしてマージしたくてもCIで待つ必要があったり、あとはコスト面でもないにこしたことはありません。
最近ありがたいことに開発に携わる
LangChainで実装されたAIエージェントでポ◯モンのデータ分析とレポートをやってみたよ
こんにちは、すずきです。
最近、OpenAIが新しいAIエージェントを開発しているという記事が話題になっていました。AutoGPTやBabyAGIが昨年から話題になっていますが、これからAIエージェントがより身近な存在になってきそうです。
この技術動向に少しはキャッチアップしておこうと思い、RAGをつかったチャットボット開発のとき参考にした講座のAIエージェントに関するセクションを観なおしまし
マルチステージビルドやDistrolessでGoアプリケーションのDockerイメージを最適化してみたよ
こんにちは、すずきです。
Node.js(Express)ベースのアプリケーションをGoに移行した際、Dockerイメージのサイズを2.8 GBから400 MBまで大幅に削減できて一旦満足したのですが、リソースの効率的な利用やデプロイの速度向上を目指す中で、さらなるイメージサイズの削減ができることがわかったので、新たな試みをしてみることにしました。
DevOps経験のあるエンジニアには既知の内
OpenID ConnectならGitHub Actionsでクレデンシャルを使わずにデプロイできる
こんにちは、すずきです。
セキュリティ強化を目指して、なるべくIAMユーザーの使用を最小限に抑えて、IAMロールで一時的な権限付与を行う手法を取り入れてきました。
ただ、GitHub Actionsのデプロイワークフローにおいては、AssumeRoleする際にIAMユーザーのクレデンシャル(アクセスキーとシークレットアクセスキー)が必要だと思っていて、以前その方法を採用しました。
しかし、よ
スタートアップのエンジニアってマジでなんでもできるんだなと思った ~2023ふり返り~
こんにちは、すずきです。
M-1とSASUKEが終わるといよいよ年の瀬なんだなぁって感じっすね。
ここ一年、月イチペースでnoteの更新をやってきたんですが、技術まわりやAWS認定資格の投稿ばかりで、開発業務の内容、チーム運用、働き方など、弊社の組織に関する内容を全く投稿できていませんでした。
個人的な話なんですが、2023年はこれまで主にやっていたフロントエンドやAIまわりだけでなく、インフ
LangChainでLLMのリアルタイム応答を実装してみたよ
こんにちは、すずきです。
有人チャット機能のあるOPTEMOを普段開発している身として、AIによる無人チャットボットの知見ももっておいたほうがいいなぁとは常々思っていたので、ここ最近LangChainをいじっています。
ChatGPTでの業務効率化を“断念”──正答率94%でも「ごみ出し案内」をAIに託せなかったワケ 三豊市と松尾研の半年間という記事に、「返答のリアルタイム(ストリーミング)表
LambdaからRDSリードレプリカへの暗号化接続で起こったSSL証明書エラーの解決法
こんにちは、すずきです。
最近、アーキテクチャにRDSのリードレプリカを組み込む作業を行っているのですが、Lambda(NestJS)からRDS(リードレプリカ)へのSSL/TLS接続を設定する際、以下のエラーメッセージが表示されました。
Error: self-signed certificate in certificate chain
一瞬ハマったので、問題の原因と解決方法を備忘録とし
AWS Session Managerによるローカル環境からRDSへの安全な接続方法
こんにちは、すずきです。
10年ぶりくらいに読んだ「狂四郎2030」、あらためて漫画史に残る名作だったわ…勢いで徳弘先生の他漫画も大人買いしてみたら全部当たり。中でも「もっこり半兵衛」はここ5年で読んだ漫画で一番おもしろかったよ。
はじめにこれまで、踏み台EC2を通じたSSHトンネルを利用してDB(RDS)に接続し、DBクライアントツール(MySQL Workbenchなど)の接続やローカル環境
【悲報】AWS認定全冠(12冠)になったけど、Japan AWS All Certifications Engineersにはどうやら選ばれないみたい。
こんにちは、すずきです。
2023年2月に受け始めたMLSから7ヶ月、ようやくAWS認定全冠を達成しました。
どう考えてもオーバーワークだろ…みたいな学習ブログ(参考書を2, 3冊読んでから問題集を解きましょう、Black Beltの動画をできるだけみておきましょう、など)を信じず、問題集中心に勉強を進めた結果、効率よく全冠を達成できました。
私の経歴エンジニア歴4年目。AI研究とインフラ再設
AWS Certified Advanced Networking - Specialty(ANS-C01)は二度と受かる気がしない
こんにちは、すずきです。
9/16に「とにかく難しい」と評判のANS-C01を受けてきました。
なんとか一発で合格できたのですが、もう二度と受かる気がしません。問題自体が難しかったのはもちろん、問題文の日本語が難解すぎて読解が苦痛でたまりませんでした。これもう国語の試験だろ。
試験結果757/1000 (合格点750)でした。
他の試験では長くても120分かけずに見直しまで終わるのですが、今
AWS Certified DevOps Engineer - Professional(DOP-C02)は実務向け。PAS-C01の知識は今後使わなそう。
こんにちは、すずきです。
8/6にPAS-C01、8/18にDOP-C02を受けてきました。
もはや資格コレクターと揶揄されてもしょうがない感じなのですが、DOP-C02はここ2週間仕事で取り組んでいた内容(以下)にとても近かったので、実務と勉強の両輪で効率よく勉強することができました。
AWS Configによる非準拠ルールの設定
GuardDutyによる不正操作の検知
EventBri
TerraformでVPCピアリングを実装してみたよ
こんにちは、すずきです。
最近、あるタスクを達成するために、VPC1内のプライベートサブネットに設置したLambdaアプリケーションを、同一VPC内のパブリックサブネットに存在するNAT Gatewayを介して、VPC2内のパブリックサブネットにあるALB(接続先はプライベートサブネットのECS)のパブリックURLを利用するように設定しました。
しかし、ALBへのトラフィックはLambdaから