あべい|Pythonでデータ分析

データ分析の仕事をしています。 主にPythonでのデータ分析に便利な知識や、趣味で解…

あべい|Pythonでデータ分析

データ分析の仕事をしています。 主にPythonでのデータ分析に便利な知識や、趣味で解析した身近なデータについて書いていきます。 趣味興味関心:Python、カメラ、マンガ、Kindle、Notion

マガジン

  • ライフログ分析

    自分の生活傾向が見えるような解析を行います

  • 自作Kindleマンガ本棚

  • Notion活用

    私のNotionの活用方法を紹介します。

  • カメラ×データ分析

    カメラで撮影した写真データには、Exifと呼ばれる撮影情報がついています。 今まで撮ってきた写真の撮影情報を解析することで、使用したレンズや焦点距離、F値、シャッタースピードなど、自分がどんな設定を好んでいるのか、どんな設定をまだあまり試していないか、など見えてきて面白いです。 このマガジンでは、Pythonというプログラミング言語を使った撮影情報の解析方法を紹介します。

  • Lightroom×データ分析

    Lightroomのカタログ(.lrcat)にデータベースとしてアクセスする方法について解説します。(カタログにLightroom以外からアクセスする場合は、コピーを取ってコピーにアクセスすることを推奨します)

最近の記事

【Googleタイムライン】端末保存へ移行後のエクスポートデータの解説&Pythonで整形・可視化

Googleのタイムライン(旧名称:ロケーション履歴)のデータは、クラウドではなく端末に保存されることになりました。 この記事では、端末保存に移行したあとのデータエクスポート方法と、エクスポートされるデータについて解説します。また、Pythonでのデータ整形と可視化についても紹介します。 はじめに2024年6月23日現在、端末保存への移行による不具合の報告が多数あるみたいなので、まだ移行していない人は無理に急いで移行する必要はないと思います。 移行後どうなったか位置情報の

    • 写真とデータで振り返る旅行記【甲州市勝沼】

      GWに山梨県甲州市勝沼に行ってきました! ぶどう畑で有名な地です。全然ぶどうのシーズンではないですが、とても景色がよく、散策しているだけで楽しい街でした😆 勝沼ぶどう郷駅からレンタサイクルで観光地を何か所か巡ったので写真で紹介したいと思います。また、最後に写真の撮影情報を集計してみました。 甲州市勝沼 ぶどうの丘ぶどうの丘は名前の通りぶどう畑の丘に建っている施設です🍇 バルコニーからの景色が最高でした✨ 自転車に乗るので飲みませんでしたが様々なワインが取り揃えられてい

      • Amazonのデータリクエストで得られる注文履歴の内容

        上記記事で紹介したデータリクエストで得られる注文履歴の内容を紹介します。また、pandasでの読み込み方法も紹介します。 ファイル名人によって微妙に名前が違うかもしれませんが、フォルダ名ファイル名は以下の通りです Retail.OrderHistory.3/Retail.OrderHistory.3.csv データの中身データの中身はこんな感じでした。 メモ Order IDとASINの組み合わせでユニークになるようでした Order StatusがCancell

        • Amazonが収集している自分のデータは取得できる

          Amazonが収集している自分に関するデータを取得することができます。 データの取得方法と、どういったデータがあるかについて説明します。 取得方法アカウントサービスページに行き、「データをリクエストする」に行きます。 データカテゴリーを選択して、「リクエストを送信する」をクリックします。 amazonからデータリクエストの確認メールが届くので、そのメールのリンクから改めてデータリクエストを実行します。 データカテゴリーについてデータカテゴリーはいくつかありますが、参

        【Googleタイムライン】端末保存へ移行後のエクスポートデータの解説&Pythonで整形・可視化

        マガジン

        • ライフログ分析
          5本
        • 自作Kindleマンガ本棚
          8本
        • Notion活用
          4本
        • カメラ×データ分析
          6本
        • Lightroom×データ分析
          3本

        記事

          自己紹介

          はじめまして!「あべい」と申します。 興味・趣味・関心データ分析, AI, 機械学習 カメラ, 写真 Kindleで読書 Notion 経歴国立大院卒(情報系専攻) 製造業でのデータ分析職(3年) 現在はWeb系のデータ分析職(1年~) Pythonは大学院の時から学び始めました。 他にはC, Java, HTML, CSS, JavaScriptも扱えます。 情報発信の内容Pythonデータ分析の集計・可視化 豆知識 Pythonで身近なデータを集計・可

          NotionでKindle読書管理!便利プロパティまとめ

          Amazon商品に関する各種URLには、ASINという商品IDが組み込まれており、Notionの「数式」プロパティを使えばそれらのURLを生成可能です。 Notionにおいて、ASINをプロパティに入れておけば、数式で様々なURLリンクを生成することができます。 商品ページ 商品画像 ブラウザで書籍を読むためにリンク ハイライトとメモへのリンク これらのリンクのプロパティ作成方法を紹介します。 便利プロパティまとめASINのプロパティを作った状態で、数式プロパテ

          NotionでKindle読書管理!便利プロパティまとめ

          Notionからkindleハイライト呼び出してみた!

          概要Notionからkindleハイライトを呼び出す方法を、以下の2段階で紹介します。 すぐ実装できるやり方(ただし、表示が見にくい) 表示が見やすい&応用性があるやり方(ただし、実装がちょっと手間) 利用イメージ まず、Notionでこんな形でハイライトを表示するページへのリンクを持つプロパティを作り、このリンクをクリックすると すぐ実装できるやり方だと以下のような表示 表示が見やすい&応用性があるやり方だと以下のような表示がされます はじめに知っている方も

          Notionからkindleハイライト呼び出してみた!

          NotionからKindleを呼び出してみた!

          はじめにNotionで読書管理をしている方は多いかと思います。本を一覧化して眺めたり、読書メモを見返したりする際、「書籍の中では具体的にどう書いてあったっけ」となることがあると思います。このときkindleを開いてその書籍を探して、、、とするのはちょっと手間です。 そこで、Notionから、Kindleの該当の本を呼び出す方法を紹介します。 完成イメージプロパティに数式により作られたリンクが加えられ、これをクリックするとその本が開かれます。 概要やり方は2通りあります。

          NotionからKindleを呼び出してみた!

          Notion APIでKindle書籍のストア情報をDBに入れるGoogle拡張作ってみた!(Notion API編)

          はじめに私はKindleで書籍を購入したり、Kindle Unlimitedでレンタルしたりすることが多いのですが、あとで読もうと思っていつまでも読んでいない本があったり、どの本が良かったか悪かったかなどの記憶が薄れてきたりしていました。 そこで、Amazonのストアページから商品画像や商品説明などの情報を抽出してNotionに送信するChrome拡張機能を作成し、読んだ書籍を管理できようにしました。 作成したChrome拡張について、Notion APIの備忘録として記事

          Notion APIでKindle書籍のストア情報をDBに入れるGoogle拡張作ってみた!(Notion API編)

          写真に付与されたMakerNotesを読む

          過去にexif情報の読み込み方法を紹介しましたが、pillowを用いた方法では、MakerNotesは取得できても内容を解読することはできませんでした。 Exifはどのメーカーのカメラでも存在するような必要最低限の設定項目しかわかりませんが、MakerNotesはもっと幅広い設定、また、各社固有の設定なども得られます。 私はSONYのカメラを利用しているのですが、調べてみるとSONYのMakernotesの中身を解読して公開されている方がいました。 さらには、「exif

          写真に付与されたMakerNotesを読む

          GoogleタイムラインをPythonで読む!

          概要Googleタイムラインの情報をエクスポートしてpythonで集計します。エクスポートした情報には、時間ごとの緯度経度、訪問地の名称などが含まれています。 これらの情報はjsonファイルになっていて、構造がやや複雑です。 下記の有志の書いたリファレンスを参考に、jsonファイルをテーブル形式に変換する処理を書きました。 準備タイムラインのエクスポート方法 エクスポート方法に関しては、下記のサイトが参考になります。 得られる情報について 以下の時系列情報を得ることが

          GoogleタイムラインをPythonで読む!

          MoneytreeでエクスポートしたCSVを集計!【python】【家計簿】

          私はMoneytreeで家計簿をつけているのですが、月次の入出金や総資産の推移を1年程度しか表示できない(スクロールする必要がある)という点が不便に感じていました。 長期スパンで収入支出額の推移を一目で確認したいと思い、Moneytreeの有料プランでcsv出力し、pythonで集計・可視化しました。 Moneytreeの有料プランについてMoneytreeで個人向けの有料プランは二つあります。 CSV出力だけが目的なら1か月だけ契約すれば十分です。 https://ge

          MoneytreeでエクスポートしたCSVを集計!【python】【家計簿】

          Lightroomのカタログファイルをデータベースとして読む(3)

          Lightroomのカタログファイルの中身を可視化します。 せっかくなのでexif情報でなくLightroomで付与される情報、レーティング・都道府県情報を見ていきます。可視化にはplotlyというライブラリを使用しました。 クエリを読み込み・実行lrcatのデータを読み込むためのクエリはここに置いてあります。 https://github.com/abay-qkt/lightroom-lrcat-as-sqlite/tree/main/sql 注意事項は前回の記事を参

          Lightroomのカタログファイルをデータベースとして読む(3)

          Lightroomのカタログファイルをデータベースとして読む(2)

          Lightroomのカタログから以下のようなテーブル情報を取得します。 注意事項これからPython、SQLでカタログ(.lrcat)にアクセスしますが、Adobeが想定していない使い方になりますのでカタログを破損する可能性があります。 カタログはコピーをとって、コピーに対してアクセスすることを推奨します。(基本ここではSELECT文しか使わないのでカタログを壊すような操作はないはずですが、考慮できていない要素がないとも言い切れないため) lrcatにアクセスlrcatに

          Lightroomのカタログファイルをデータベースとして読む(2)

          Kindle for PC Ver 2の情報を利用した本棚アプリの自作・公開

          Kindle for PCがver2にアップデートされたのを機に、前々から作っていた自分のKindle本棚アプリを改修しました。 アプリのソースコード・実行ファイルはMITライセンスで公開しているので、ぜひ使ってみてください。 概要2種類の方法で購入した書籍の一覧表示、閲覧ができます。 エクセル:単純にリスト化するだけで十分な人向け ブラウザ:購入した書籍をずらっと並べて眺めたい人向け 主な特徴書籍リストのエクセル出力・ブラウザ表示 Kindle for PC、We

          Kindle for PC Ver 2の情報を利用した本棚アプリの自作・公開

          Lightroomのカタログファイルをデータベースとして読む(1)

          lightroomのカタログファイル(.lrcat)の中身は、sqlite3というデータベースでできています。 このデータベースには、F値や露光時間、ISO感度といったexif情報に加え、GPS情報から得られた市区町村情報、ユーザがLightroomで付与したレーティング(星)やカラーラベル情報が得られます。 このデータをPython等で集計すれば、自分がどういった撮影設定の写真に高いrating(星)を付けているか、撮影頻度の高い都道府県はどこか、など可視化できたりします

          Lightroomのカタログファイルをデータベースとして読む(1)