ML

MLaPP アドベントカレンダー11日目:Ch.11 Mixture models and the EM algorithm

この章は混合モデルとEMアルゴリズムについて.前半の混合モデルについてはちゃんと読めたけど,EMについてはそんなに詳しく読めていないし,知っているところも多かったのでだいぶ飛ばしてしまった.混合モデル周辺はこれまでそんなに触ったことがないので…

MLaPP アドベントカレンダー10日目:Ch.10 Directed graphical models

ということで10日目ですが,そろそろ力尽きそうな感じでDirected graphical modelです.この章のポイントがどこにあるのか,ざっと読んだだけでは理解しきれていません.当たり前のことが書いてあるような,重要なことが書いてあるような….細かい部分につい…

MLaPP アドベントカレンダー9日目:Ch.9 Generalized linear models and the exponential family

本日は指数型分布族に関する章で,指数型分布族とはなんぞ その3のような感じです(その1, その2).任意の指数型分布族のメンバーは生成分類器をつくるためのクラス条件付き確率密度として簡単に用いることができます.また,反応変数yが指数型分布族分布とな…

MLaPP アドベントカレンダー8日目:Ch.8 Logistic regression

ロジスティック回帰の章まできました.このあたりは自分は結構よく知っていることもあり(読む時間もないし…),まとめ方は雑になってます.多くの本では,ロジスティック回帰の説明がなされている章で大抵ロジスティック回帰そのものよりも非線形最適化の話…

MLaPP アドベントカレンダー7日目:Ch.7 Linear regression

なんとか7日目を迎えることができました.1週間というのは長いものです.しかし,これでまだ1/4の章.しかも簡単な部類の章ばかりなので,MLaPPこわい.ということで線形回帰の章です. Model specification 線形回帰モデル の代わりに非線形関数を用いても…

MLaPP アドベントカレンダー6日目:Ch.6 Frequentist statistics

というわけで,昨日はベイズ統計でしたが,本日は頻度論的統計の章です.頻度論から統計学を知った身としては,頻度論の問題点を指摘されているのは自分の黒歴史を見つめているようで悲しい気分になります….とはいえ,最近は完全に発想がベイジアンになって…

MLaPP アドベントカレンダー5日目:Ch.5 Bayesian statistics

5日目になってベイズ統計の章に入ってきました.ベイズの定理を用いたベイズモデリングや,そこまで詳しく触れられませんが古典的ベイズ,階層ベイズ,経験ベイズの違いがわかるといいと思います.また,次の章では頻度論的な話になっているので対比してみる…

MLaPP アドベントカレンダー4日目:Ch.4 Gaussian models

4章長くてつらい.4.3が1番重要と思う.PRML 2章でも正規分布の部分は結構重たかったんだけど,それだけ重要だということだと思う.途中で積ん読になるならこの章だと思うので,序盤の山場と思われ.初日に書いた通り,自分も1, 2, 3章読んで止まってたので4…

MLaPP アドベントカレンダー3日目:Ch.3 Generative models for discrete data

というわけでMLaPPアドベントカレンダー3日目.三日坊主の域まで来たので,一つ目の関門は越えた感じです.ここまでで一応100ページ弱.3章の内容はまだまだ導入という感じの章ですね.生成モデルの考え方,ベイズの考え方などが具体例に沿って説明されるの…

MLaPP アドベントカレンダー2日目:Ch.2 Probability

他のアドベントカレンダーのエントリタイトルみていたらみんな,ほにゃららAdvent Calendarってなってて,アドベントカレンダーってカタカナで書いてしまって恥ずかしい….ということで,確率論の概要の章.ここらへんはまだ大丈夫そうです. Some common di…

MLaPP アドベントカレンダー1日目:Ch.1 Introduction

12月ですね.そういえば昨年ベイズ統計分析ハンドブックに関するエントリーを書いたところ,ホッテントリに入って大量のアクセスを頂きましたが,誰一人としてアフィリエイトで買う人間はおらず,やはり薦める本を失敗した!と後悔し続けた2013年です.皆様…

Contrastive Divergenceについてお勉強してみた

今週はMLど素人でありながら初めてIBISに参加し,様々な刺激を受けて大変良い1週間でした.いつもtwitter上でご活躍を拝見している方々とリアルに会ったり,遠目に眺めてみたり,話をしたりできたので良かったです.刺激を受けたご講演・発表は数多くあった…