機械学習

ACL 2011読み会で発表してきました

木曜時点では発表する気がなかったのですが、金曜に人が足りなそうだったので急遽発表することに決定。 識別モデルを使って言語モデルの予測精度を上げるという話。発表資料: A scalable probablistic classifier for language modeling: ACL 2011 読み会 V…

Regularized Latent Semantic Indexing

最近勉強会で発表する予定のものと仕事関係の論文しか読んでなかったのでこのブログにはあんまり書けなかったんだけど、久々に書いてみる。紹介する論文はSIGIR 2011のLSIを語彙数が大きい時にも効率的に並列化できるようにしたという論文[1]。 論文概要 PLS…

ICML2011読み会で発表してきました

id:nokunoさんの主催したICML2011読み会で発表してきました自分はSparse Additive Generative Model for Textという論文について発表しました発表資料: Icml2011 reading-sage View more presentations from tsubosaka 他の発表についていくつかメモ Infinit…

NIPS Oral Sessionのリスト

参考までにOral Sessionの他の論文のリストも挙げておきます(Oral SessionではInvited talkとかもあるけどそれは除外)、accepted paperが300本近くあるなかでOral Sessionは20本しかなく非常に競争率が高いです。 Over-complete representations on recurren…

Power Iteration Clustering

岡野原さんのtweetで紹介されていたPower Iteration Clusteringという文章分類の手法に関する論文[1,2]を読んでみた。 背景 n個のデータX={x_1,...,x_n}が与えられたときに各データ間の類似度s(x_i,x_j)を成分に持つ類似度行列Aを考える。 また次数行列とし…

PRML勉強会

PRML勉強会の発表資料公開しました。 自分の担当は10.1の変分推論のところでした。次回は10.2以降からでPRMLで計算が一番多いところなので予習を頑張らないとなといった感じです。Prml 10 1View more presentations from tsubosaka.

[論文] Parallel Inference for Latent Dirichlet Allocation on Graphics Processing Units

NIPS 2009のonline papersがすでにダウンロードできるように*1なってたのでタイトルを眺めていたらGPUでLDAを並列化するという論文があって読んだので少し紹介してみる。まず、彼らの論文[1]ではLDAの推論アルゴリズムのうち、Collapsed Gibbs sampling(CGS)…

PRML読書会08 + 逆行列の計算に関しての覚書

毎月恒例のPRML読書会で発表してきました。 今回の発表は6.4.5,6.4.6でガウス過程による分類を行う際の定式化とそこで出てくる積分をラプラス近似で近似を行う方法についてでした。 ラプラス近似で計算を行う部分についてはこの読書会で出てくるのが3度目と…

SVMソフトウェアの比較

オープンソースのSVMソフトウェアの基本デフォルトの設定で比較などをしてみた。利用データはLIBSVM Data: Classification, Regression, and Multi-labelのa9aとnews20.binaryを利用した。 データセットの詳細は以下のようになっている データセット名 訓練…