ragraciles

ragraciles

分数・指数関数による非線形回帰分析の初期値の計算方法

はじめに　今回は１次の分数関数と指数関数 $${y=1/(ax+b)+c,y=ae^{bx}+c}$$ による回帰分析の手法について、初期値の計算方法について補足します。パラメータ（回帰係数）の計算は数値解析により求めますが、初期値の与え方によって結果が異なり、適切な初期値を与えないと、望ましい結果に収束しない場合があります。本記事で解説する初期値の計算手法は、$${y}$$ を $${x}$$ についての直線となるように変形し、直線近似の最小二乗法により求めます。定数項にあ

ragraciles

    • 非線形回帰分析（カーブフィッティング）の手法：PythonによるLM法の実装

      はじめに今回は非線形な関数による回帰分析の手法について解説をします。考え方は線形と非線形の場合で違いはなく、最小二乗法の原理で残差平方和 ( 観測値と予測値の差の二乗和 ) を最小にするパラメータを求めます。異なる点は非線形関数の場合には最小にするパラメータが解析的に求められない場合が多いため、数値解析により計算する点です。本記事では数値解析による主な手法である、最急降下法、ニュートン法、ガウス・ニュートン法、レーベンバーグ・マルカート（LM）法について解説します。また、 $

      ragraciles

      • 【ワイブル分布】補足：打ち切りする場合の形状パラメータの最尤推定量の期待値(総数 n → ∞)

        はじめに今回はワイブル分布の形状パラメータ $${m}$$ の最尤推定量 $${\hat{m}}$$ を不偏推定量(期待値がパラメータの真値と等しい推定量)とする補正係数に関する補足です。全体で $${n}$$ 個のサンプルについて試験を同時に実施し、 $${r}$$ 個の観測値が得られた段階で打ち切る場合を考えます。補正係数を求めるために、 最尤推定量 $${\hat{m}}$$ の期待値を求める必要がありますが、解析的に求めることができません。本記事では、補正係数の近似式

        ragraciles

        • 【ワイブル分布】形状パラメータの最尤推定量の補正係数に関する補足

          はじめに今回はワイブル分布の形状パラメータ $${m}$$ の最尤推定量 $${\hat{m}}$$ を不偏推定量(期待値がパラメータの真値と等しい推定量)とする補正係数について解説します。この補正係数により、ワイブル分布の未知パラメータ推定において、確率紙による方法よりも推定のばらつきを小さくすることができます。 補正係数については、 $${n}$$ 個の試験において、観測値がすべて得られた場合、未知パラメータに依存せず、観測値の数 $${n}$$ のみに依存します。 $$

          ragraciles

        分数・指数関数による非線形回帰分析の初期値の計算方法

        ragraciles

        • 非線形回帰分析（カーブフィッティング）の手法：PythonによるLM法の実装

          ragraciles

        • 【ワイブル分布】補足：打ち切りする場合の形状パラメータの最尤推定量の期待値(総数 n → ∞)

          ragraciles

        • 【ワイブル分布】形状パラメータの最尤推定量の補正係数に関する補足

          ragraciles

          【ワイブル分布】 未知パラメータ推定方法の改良

          はじめに今回はワイブル分布のパラメータ推定において最尤推定量による方法、確率紙による推定方法を改良した方法について説明します。 確率紙による推定方法、最尤推定による推定方法には２点問題点があります。 １点目は形状パラメータ $${m}$$ の推定量は不偏推定量ではないため、期待値 $${=}$$ 真値 とならない点です。 ２点目は尺度パラメータ $${\eta}$$ の推定量も不偏推定量ではなく、$${m}$$ が小さいほど、期待値と真値との誤差が大きくなり、$${m\rig

          ragraciles

          【ワイブル分布】 未知パラメータ推定方法の改良

          ragraciles

          【ワイブル分布】確率紙による推定と最尤推定によるパラメータ推定方法の精度比較

          はじめに今回はワイブル分布のパラメータ推定において、確率紙による方法１と最尤推定を用いた方法２の比較をします。 結論としては、形状パラメータ $${m}$$ については確率紙による推定方法１が優れ、尺度パラメータ $${\eta}$$ は両方法で大きな違いはありませんが、若干最尤推定による推定方法２の方が優れているという結果になります。 ただ、両方法についてワイブル分布の形状パラメータ $${m}$$ が 0 に近づくにつれ、 尺度パラメータ $${\eta}$$ の推定量は

          ragraciles

          【ワイブル分布】確率紙による推定と最尤推定によるパラメータ推定方法の精度比較

          ragraciles

          平均ランク メジアンランク モードランクの解説と推定精度の比較【累積分布関数の計算】

          はじめに今回は、累積分布関数の計算に使用される平均ランク、メジアンランク、モードランクについて解説します。 例えば確率紙を用いた推定では、得られた観測値を小さい順にならべ、横軸に観測値、縦軸にその観測値に対応する累積分布関数の値(または累積分布関数の値を用いて計算した値)をプロットします。この際、累積分布関数の値の計算方法として、主に上記の3通りが存在します。 この3通りの計算方法については、累積分布関数の値自体を確率変数として、その期待値を用いるのが平均（ミーン）ランク、中

          ragraciles

          平均ランク メジアンランク モードランクの解説と推定精度の比較【累積分布関数の計算】

          ragraciles

          【統計】混合分布の期待値と分散 一般化

          はじめに今回は一般化した $${n}$$ 種類の混合分布について、期待値と分散を導出します。 混合分布とは複数の確率分布が混ざった分布のことです。 例えば、山が2つある分布は、平均の異なる２種類の正規分布が混ざり合った混合分布になります。 前置き以下のように混合分布の確率変数 $${X}$$ を定義します。 $${X_{1},\ ...\ ,X_{n}}$$ を互いに独立な確率変数とし、確率関数を順に $${f_{1}(x),\ ...\ ,f_{n}(x)}$$ 、平均

          ragraciles

          【統計】混合分布の期待値と分散 一般化

          ragraciles

          統計検定1級 2017年 人文科学 問題5 解答例 +α

          はじめに今回は統計検定1級より 2017年 人文科学 問題5 の解答を記載します。 グループ分けと信頼区間に関する問題です。 方法2におけるグループ分けの人数の分散について、問題では大小比較のみですが、実際に求めると、非常に綺麗な形となります。 補足としてこの分散の求め方について説明します。 問題については著作物のため割愛します。 前置き$${A,B}$$ の 2 グループについて以下のグループ分けについて考えます。 1人目はグループ $${A,B}$$ ともに等確率でラン

          ragraciles

          統計検定1級 2017年 人文科学 問題5 解答例 +α

          ragraciles

          統計検定1級 2016年 統計数理 問題5 解答例 + F分布からベータ分布の変数変換

          はじめに今回は統計検定1級より 2016年 統計数理 問題5 の解答を記載します。 欠測の発生が完全にランダムであるかを検定する、MCAR検定に関する問題です。 検定が同等であることを示す問題[3]について、解答では狭義単調増加の関数による変数変換の場合には、検定が同等であるとしています。これについて補足します。 また、検定統計量 $${F}$$ と $${d^{2}}$$ の関係式に関連して、 $${F}$$ 分布からベータ分布の変数変換についても説明します。 問題について

          ragraciles

          統計検定1級 2016年 統計数理 問題5 解答例 + F分布からベータ分布の変数変換

          ragraciles

          統計検定1級 2013年 理工学 問題3 解答例 +α

          はじめに今回は統計検定1級より 2013年 理工学 問題3 の解答を記載します。 寿命試験において試験を中断した場合の寿命の最尤推定量を求める問題です。 ヒントが与えられているため、特段難しいというわけではありませんが、ヒントで与えられる内容については公式の解答では言及がなかったため、その証明方法について説明します。 問題については著作物のため割愛します。 前置きヒントの内容は以下になります。 $${X_{1},\ ...\ ,X_{n}}$$ が互いに独立に $${Ex

          ragraciles

          統計検定1級 2013年 理工学 問題3 解答例 +α

          ragraciles

          統計検定1級 2014年 統計数理 問題4 解答例

          はじめに今回は統計検定1級より 2014年 統計数理 問題4 の解答を記載します。 問題は計画行列の評価において、推定量の分散だけでなく非心度も考慮したものであり、統計検定1級の中でもかなりハイレベルな問題（個人的には最難関）です。 公式の解答等では飛躍があり、理解するのが非常に難しい問題ですが、一助となれば幸いです。 問題については著作物のため割愛します。 [1][計画行列 $${X}$$] 　計画行列の $${i}$$ 行は $${i}$$ 回目にどの物体を測るか。第

          ragraciles

          統計検定1級 2014年 統計数理 問題4 解答例

          ragraciles