古典機械学習を学ぶ

本

線形回帰、ロジスティック回帰、正則化、決定木、サポートベクトルマシン、クラスタリング、次元削減などの機械学習の仕組みを解説していく予定です。

運営しているクリエイター: 澁谷直樹

#機械学習

scikit-learn機械学習⑳k近傍アルゴリズム

前回は、勾配ブースティングによる分類の実験を行いました。これまでブースティング、バギング、ランダム・フォレスト、決定木などを扱ってきましたが、これらは全てノンパラメトリックな手法です。ノンパラメトリックの意味は後で解説しますが、今回紹介するk近傍アルゴリズム（k近傍法、k-Nearest Neighbors、k-NN）もノンパラメトリックな手法になります。 k-近傍アルゴリズム（以下、k-NN）の基本的な仕組みは単純です。以下、分類を例として解説します。下図を見

scikit-learn機械学習③単純線形回帰：実践編

今回は単純線形回帰をscikit-learnを使って実装します。 scikit-learnは機械学習を行うためのオープンソースのPythonライブラリです。分類、回帰、クラスタリング、次元削減など多様な機械学習タスクをサポートします。また、豊富な機械学習アルゴリズムだけでなく、データ前処理、モデルのトレーニング、評価、パイプラインの構築など便利な機能が含まれています。これらの機能は、NumPy、SciPy、Matplotlibなどの他のPython科学計算ライブラリ

scikit-learn機械学習①イントロダクション

この記事からscikit-learnで機械学習を学ぶシリーズを始めます。このシリーズでは、主にニューラルネットワーク以外の機械学習アルゴリズムの紹介をしていく予定です。ディープラーニングにより関心がある方は、「PyTorchで始める深層学習」シリーズを参照してください。今回は、機械学習の概要を紹介します。機械が学習するとはトム・ミッチェルが書いた機械学習の本では、コンピュータ・プログラム（機械）が学習することを次のように定義しています。つまり、学習しているかど

「教師あり学習」はもう古い？正解データを自動生成できる「自己教師あり学習」を解説します

この記事で学ぶことここ数年、人工知能において以前は鉄板だった「教師あり学習」から「教師なし学習」への大きな流れが見受けられます。特にトランスフォーマーを利用した事前学習を行うBERTなどの影響が大きいですが、そのほかにもGeoffrey HintonらによるContrastive Learningによる事前学習なども注目されています。今回は、これらの事前学習に共通する手法で「教師なし学習」だけど正解データを使う「自己教師あり学習」について解説します。教師なし学習教師な