neko2wakai

たぶんデータエンジニア。少しでも学びになったものを投稿します。ハードルは低いです。

neko2wakai

たぶんデータエンジニア。少しでも学びになったものを投稿します。ハードルは低いです。

マガジン

  • 読書メモ

    読んだ本のメモや要約、これから取り込みたい部分とか整理用。ざっくりしか書いてないけど、ざっくりとは書いてあるようにしたい。

  • 日々の学び

    その日学んだことや再認識したことなどをだいたい毎日投稿します

最近の記事

【読書メモ】ソフトスキル第2版 第1部

この記事は読んだ本のメモや整理の意味合いが強く、また読んだ内容から知識や行動に取り込めるものがないかを探すための記事です。 これから読む方の切っ掛け、もしくは既読者の方の振り返る切っ掛けになれば幸いです。 第1部概要第1部はキャリアがテーマです。 仕事を得るところから、社内での立ち回り、出口戦略としてのアントレプレナー(起業家)に至るまでのプロセスが書かれています。 細かく章立てされているため、はじめにざっくり要約した内容を太字にし、箇条書きベースで重要そうな部分や内容、私

    • 学び(2024/06/01)

      今日の学びhttps://www.digitalservice.metro.tokyo.lg.jp/documents/d/digitalservice/ai_prompt 生成AIのプロンプトの話 資料作成の時に役割付与しがちだったので目からうろこ 理由を書かせるも初見だった 「要件定義」について聞くとしたら、いつもは以下のようにしていた note参考にもう少し簡潔に知りたい場合の書き方を試す。 前者は要件定義の段階ごとの説明をしてくれているので、これはこれであ

      • 学び(2024/05/31)

        今日の学びpoetry + pyenv + etc それHatchに大体入っているよ 諸々設定されているので新規プロジェクトする時点である程度開発環境が揃うのが良さそう 所感開発環境構築はpoetryで大分楽になりましたが、もう一歩進んで楽になりそうです。 コマンドとかなんやかんや設定回りの問題は発生しうるものなので、Hatch導入でその手順を減らせるようになると新規メンバーにとってうれしいですね。 終わりに週末二日とも雨予報でした。ちょっと出かけたかったです。

        • 学び(2024/05/30)

          今日の学びtfenvチョット楽になる話。 バージョンべた書きしなくていいけど、意図したバージョンになうような条件付けはしっかりする。 Rust製のターミナルの話。 設定がプログラミング言語(Lua)で書けるのは面白そう。 所感ローカルでの開発環境も時折見直して整備したい。 誰かに聞いたのは始業後15分はそういったツールを調べて適用する時間に充てるとか。 終わりに台風近し

        【読書メモ】ソフトスキル第2版 第1部

        マガジン

        • 読書メモ
          1本
        • 日々の学び
          24本

        記事

          学び(2024/05/29)

          今日の学びJSONを可視化してくれるVSCode拡張機能 結構長いJSONもいい感じに表示してくれる。 やることが多いから分業してると思っていたが、やること多すぎない!? 特に「スケジュールを引く」と「見積」。 開発ライフサイクルの名前、ウォーターフォールとアジャイルしか知らなかった。 所感どうしても業務で触れるものって自分のやりたいものばかりではないので、上流チックなことも齧って知識だけ広げときたさがある。 終わりに癒されに自然に触れたい

          学び(2024/05/29)

          学び(2024/05/28)

          今日の学び正式名称は「Google Cloud」 一般的には旧称「GCP」の印象が強く、また略称としてAWSと対になるのでまだまだ根強い。 オーストラリアの年金基金で大規模障害発生。 原因は、GoogleのオペレータによってプライベートクラウドのGoogle Cloud VMware Engine設定(プロビジョニングの有効期間)漏れがあり、デフォルトの1年が適用されていたこと。 年金基金側は2つのリージョンに分散していたが両方とも削除された。 幸運にも同じリージョンのGC

          学び(2024/05/28)

          学び(2024/05/27)

          今日の学び被報告者が知りたいこと 報告者の状況はヤバいか否か 次に行動するのは自分かどうか 報告者が注意すること 自分の状況を簡潔に伝えること できれば、今何かヤバいことあるかを最初に伝えること 改めて見るとなるほどとなるものがある。 クラウドセキュリティガイドラインも他のページと同じくらいわかりやすくしてほしい。 終わりにキャリアパスが五里霧中

          学び(2024/05/27)

          学び(2024/05/25)

          今日の学びpythonのフォーマッター・リンターについて フォーマッター・リンターはこれまで以下の構成で設定していました。 flake8 black isort mypy poetryでパッケージ管理しているため、使いまわしたりできるのですが、それでも毎度設定が面倒ではあります。 そんな中、少し前から見聞きするようになったのがRust製のコード整形・チェックツールのRuffです。 以下は実行速度についての比較で、圧倒的に早いことを示しています。 実際使ったときの

          学び(2024/05/25)

          学び(2024/05/24)

          今日の学び操作前に立ち止まって注意すべきこと メインブランチへの直コミット ブランチ運用の徹底 コミットミスからの復旧 マージコンフリクトの解決 所感マージコンフリクトの解消方法でミスって、変な差分反映してないよね?で半日とかした苦い思い出があります。今一度この意識をつけたい。 終わりに華金で他社の人と飲んできました。 焼き鳥美味しい!

          学び(2024/05/24)

          学び(2024/05/23)

          今日の学び全体を読むのではなく、要点をつかむようにする(スキミング) 章節や段落の始まり・終わりの文章を読む 各章の主要な情報を得るために主張・反論・結論だけを読む 詳細な説明や具体例は一旦飛ばす 著者が強調する箇所に注目する 「しかし」「ところが」「問題なのは」など、主張が変わる言葉 「つまり」という前の文の要約を示す言葉 自分が覚えているか思い返す(リトリーバル) 勉強したことや読んだ内容などを思い出す 覚えていることを反芻し、わからないことがないか思い

          学び(2024/05/23)

          学び(2024/05/22)

          今日の学びbqコマンドリファレンス bq show --format=prettyjson "project-id:dataset-id.table-id" | jq ".lastModifiedTime" bqコマンドでBigQueryテーブルの情報を取得する方法。 jqコマンドで任意の情報のみ取得することも可能です。 最終更新日時はUTCのミリ秒になっているので、取得結果 / 1000してしてからjstに変換できます。 ここらへんはざっくり参照できます。 所感g

          学び(2024/05/22)

          学び(2024/05/21)

          今日の学びドキュメントはいいぞ。という点 ドキュメントに含めることができる情報量は多い 記録として残せるからいつでも見返せる 1:Nで効果増大 書き出すことで整理ができる 話すことが苦手な人でも平等にフィードバックできる 共有することでMTG回数・時間を減らせる可能性がある 個人的にも過去の自分が何をしたのか掘り返せるからドキュメントにすることが多い。タスクチケットにメモとして書くようにしています。 しかし、複数人とやりとりするようなドキュメントはある程度フォー

          学び(2024/05/21)

          学び(2024/05/20)

          今日の学びGoogleCloudのサービスについて改めて眺めてみる。 今日はFirestore 特徴 ドキュメント指向型のNoSQLサーバーレスデータベース リアルタイムでデータ同期 モバイルアプリなどから直接接続可能 オフラインアクセスが可能 利用がおすすめなケース 複数クライアントからのファイル共有が必要なケース コンテナ化されたWebアプリケーションでの情報共有 複数ユーザーで同時文書編集するとか オフラインでのデータアクセスが必要なケース ローカ

          学び(2024/05/20)

          学び(2024/05/19)

          今日の学びGoogleCloudのサービスについて改めて眺めてみる。 今日はBigtable 特徴 Key-Valueかつワイドカラム型NoSQLデータベース 数TB以上の規模でデータ格納可能 1秒あたりの読み書きに対して大規模スケーリング可能 低レイテンシかつ高スループット 高可用性:自動で複数台のサーバーにデータが複製 利用がおすすめなケース 大量データを低レイテンシで処理する場合 IoTデバイスのセンサーデータ収集とか 高いスケーラビリティが求められ

          学び(2024/05/19)

          学び(2024/05/18)

          今日の学び上記の中で特に沼っていること(→は試してみること) わからない部分で立ち止まる 調べ出してサーフィンしだす →わかったことを書き留めて継続する 本を綺麗な状態に保とうとする 書き込む習慣がないし、汚れる感がある →付箋を貼る 書見台を使わない PCで調べづらい ページを毎回開閉することになる →書見台を使う 所感それと一番は「余すところなく読み込まないといけない」という思い込みを無くせていないのがハードルを高くしている。 仮に本の理解度をおい

          学び(2024/05/18)

          学び(2024/05/17)

          今日の学びpolarsでavroファイル扱える OutOfSpecのエラーがあり、Issueが作成されている。 どうもpolarsが書き込んだ時のバージョンと同じものを使わないと読み込めないとか。 例えば全然別のシステムが出力したavroファイルでこれが起きるのかどうか気になる。 振り返り構造化データのやり取りでよく使うのはcsvかjsonで、たまにtxt、avro、parquetを使う。 データフレームライブラリも同じような範囲でカバーしているだろうから、他のシステムが

          学び(2024/05/17)