この章は混合モデルとEMアルゴリズムについて．前半の混合モデルについてはちゃんと読めたけど，EMについてはそんなに詳しく読めていないし，知っているところも多かったのでだいぶ飛ばしてしまった．混合モデル周辺はこれまでそんなに触ったことがないので…

ということで10日目ですが，そろそろ力尽きそうな感じでDirected graphical modelです．この章のポイントがどこにあるのか，ざっと読んだだけでは理解しきれていません．当たり前のことが書いてあるような，重要なことが書いてあるような…．細かい部分につい…

本日は指数型分布族に関する章で，指数型分布族とはなんぞ その3のような感じです(その1, その2)．任意の指数型分布族のメンバーは生成分類器をつくるためのクラス条件付き確率密度として簡単に用いることができます．また，反応変数yが指数型分布族分布とな…

ロジスティック回帰の章まできました．このあたりは自分は結構よく知っていることもあり（読む時間もないし…），まとめ方は雑になってます．多くの本では，ロジスティック回帰の説明がなされている章で大抵ロジスティック回帰そのものよりも非線形最適化の話…

なんとか7日目を迎えることができました．1週間というのは長いものです．しかし，これでまだ1/4の章．しかも簡単な部類の章ばかりなので，MLaPPこわい．ということで線形回帰の章です． Model specification 線形回帰モデル の代わりに非線形関数を用いても…

というわけで，昨日はベイズ統計でしたが，本日は頻度論的統計の章です．頻度論から統計学を知った身としては，頻度論の問題点を指摘されているのは自分の黒歴史を見つめているようで悲しい気分になります…．とはいえ，最近は完全に発想がベイジアンになって…

5日目になってベイズ統計の章に入ってきました．ベイズの定理を用いたベイズモデリングや，そこまで詳しく触れられませんが古典的ベイズ，階層ベイズ，経験ベイズの違いがわかるといいと思います．また，次の章では頻度論的な話になっているので対比してみる…

4章長くてつらい．4.3が1番重要と思う．PRML 2章でも正規分布の部分は結構重たかったんだけど，それだけ重要だということだと思う．途中で積ん読になるならこの章だと思うので，序盤の山場と思われ．初日に書いた通り，自分も1, 2, 3章読んで止まってたので4…

というわけでMLaPPアドベントカレンダー3日目．三日坊主の域まで来たので，一つ目の関門は越えた感じです．ここまでで一応100ページ弱．3章の内容はまだまだ導入という感じの章ですね．生成モデルの考え方，ベイズの考え方などが具体例に沿って説明されるの…

他のアドベントカレンダーのエントリタイトルみていたらみんな，ほにゃららAdvent Calendarってなってて，アドベントカレンダーってカタカナで書いてしまって恥ずかしい…．ということで，確率論の概要の章．ここらへんはまだ大丈夫そうです． Some common di…

12月ですね．そういえば昨年ベイズ統計分析ハンドブックに関するエントリーを書いたところ，ホッテントリに入って大量のアクセスを頂きましたが，誰一人としてアフィリエイトで買う人間はおらず，やはり薦める本を失敗した！と後悔し続けた2013年です．皆様…

Semi-Supervised Text Classification Using EM Nigam, K., McCallum, A. and Mitchell, T. 私なんぞでも知っている有名人GoogleのNigamさんによるChapter 3 (pp.33-55)． McCallum, Mitchellも有名人．Tom MitchellはMachine Learningのテキストを1997年に…

A Taxonomy for Semi-Supervised Learning Methods Seeger, M.Ch 2(pp.15-31)もどちらかというとoverviewっぽい．半教師あり学習の分類について書かれている．相変わらず簡単なまとめメモ＋適当な意訳あり．あとはてダの数式が綺麗ではないので，少しがんば…

Chapelle et al. (2006)を買ったので読んでみてる．Zhu and Goldberg (2009)の"Introduction to Semi-Supervised Learning"も買った．後者はかなり薄いかつ簡単そうなので，概要を掴むには良さそう．まだ特に半教師ありを何かに適用するつもりではないのだけ…

まずは下の文章を読んでいただきたい． K: (前略)もうひとつ音楽にとって，いかに視覚が重要かというのは，ストラヴィンスキーが「目をつぶってオーケストラを聴く馬鹿」と言ったんですが，演奏しているのを見ているというのは，音楽の体験にとって，とても…

4回目でp.49あたりまで．全然すすまねーｗ2.3のOperations that preserve convexityはaffine functionやperspective functionが凸性を保存することが書かれていた．perspective functionは簡単に言えば1次元下げるような写像（ピンホールカメラのイメージ）…

1時間程度開かれた凸解析苦手の会の第三回．他研究室の学生さんも加わって6名になった．喜ばしい．その一方で，今回やったところはあまり幾何的なイメージができずに悪戦苦闘し，数頁しか進まなかった．内容は凸性を保存する操作について．まだまだ前半です…

無事，心が折れることなく第2回が開催された．当然のことながら予習無しの本読み会．前回参加者2名で今回5名と大幅増（無理矢理リクルートしたとも言う）．今回は凸集合の話だったので，だいぶスピードが上がって，理解度も高し．p.23からp.35まで進んだ． …

凸解析苦手の会による凸解析勉強会をはじめてみた．本はBoyd and VandenbergheのConvex Optimization．たぶんスピードはゆっくり目でやる予定．忙しいのでどこまでやれるか．今日はChapter 1とChapter2の前半アフィン集合まで．大変適当な理解をした．

なんかダンコーガイみたいなエントリータイトルです（そういえば最近ダンコーガイどうしてるんだろ…）．さて，仙台にはジュンク堂が駅前に3つあり，その中でイービーンズに入っているのが一番専門書がしっかり揃っていて良いです．というか，3つもいらないし…

また気付いたら1ヶ月くらい経っているという…．先日，初めて英語プレゼンをする機会があり，しかもそれが自分の分野の大御所であるMoshe Ben-Akivaの前であり，そして自分の研究の進捗が散々なものであるという状況で非常に辛いものではありましたが，大変経…

ここ数年，流行の行動経済学の新著．前著の『セイラー教授の〜』同様，内容は確かにおもしろいのだけど，結局は読み物でしかないのが残念．タイトルも英題のNudgeから実践行動経済学という明らかにビジネスな人たちを対象にしたタイトルになってしまっている…

6月下旬に『パターン認識と機械学習』(通称：PRML)を2日間でオーバービューするというゼミをやりました．素人だらけで，詳しい人が誰もおらず大変でしたが，やり遂げたことに価値があるのではないかと思います．PRML合宿のまとめサイトつくりました． http:/…