advertisement

Ml ch10

75 %
25 %
advertisement
Information about Ml ch10
Technology

Published on March 13, 2014

Author: HigashigawaRyo

Source: slideshare.net

Description

大阪 PRML 勉強会使用スライド
advertisement

機械学習 -chapter 10 確率的分類 - Ryo HIGASHIAGWA @biwakonbu

前回課題 ● SVM を使用して身長体重から男女のクラス分けを するプログラムの作成 ● 実はモノが出来ていないです ... ● なので現状をまとめました

前回課題 ● SVM を作る為に ● ラグランジュの双対問題 ● ラグランジュ乗数 a を求めないと ... ● 二次計画法 ● 逐次最小問題最適化法( SMO ) ● ↑ どうも二次計画法の解き方の一つらしい ...

前回課題 ● SVM 実装のサンプルを探す ● Python ● Java ● R ● MATLAB ● 意外と皆、詳細が抜けてて良くわからん状態

前回課題まとめ ● SVM は今までの中で確かに難しい ● 二次計画法 ● SMO ● ラグランジュの双対問題 ● 考える事と課題が多く見えた ● 取りあえず Web のソースコードを模写が必要 ( かも ) ● SVM だけの本がある理由が良くわかった

確率的分類 ● 今までの分類は決定的パターン認識と言われる ● 今日は確率的パターン認識の話 `` パターン x に対するクラス y の事後確率 p(y|x) を 学習し、そのクラス事後確率を最大にするクラスに パターンを分類する。 ``

確率的パターン認識 ^y=argmax y=1,... ,c p( y∣x) クラスパターン x に対する y の事後確率 クラス事後の値 (p=^y|x) は信頼度と言える そのため信頼度の低い時に切り替える選択肢が出来る

ロジスティック回帰 q( y∣x ; θ)= exp(∑ j=1 b θ j ( y) Φj (x)) ∑ y'=1 c exp (∑ j =1 b θ j ( y') Φ( x)) … ロジスティックモデル 線形モデルに似てる 組み合わせは bc 次元になる

ロジスティックモデル ロジスティックモデルの学習は対数尤度を最大にする 最尤度推定によって行われる 尤度 :          対数尤度 :∏i=1 n q ( yi∣xi ;θ) ∑ i=1 n log q( yi∣xi ;θ) 観測結果から推測される前提条件の 尤もらしさ 尤度では総乗を取るため のような時に 桁落ちを起こす可能性がある q(yi∣xi;θ)=0.1 総和の出番 !!

ロジスティック回帰 ロジスティック回帰の学習基準は次式の通り max θ b ∑ i=1 n log q ( yi∣xi ;θ) 対数ガウスカーネルモデル q(y∣x;θ)=exp(∑ j=1 n θj K(x,xi)),K(x,c)=exp(− ‖x−c‖ 2 2h2 )

ロジスティック損失最小化学習 ただし、ロジスティック損失最小化学習は 次式になる q(y∣x;θ)={1+exp(−y∑ j=1 b θj Φj(x))} −1

ロジスティック回帰 1.初期値 θ を適当に決定 2.訓練標本をランダムに選択 3.選んだ標本のパラメータ θ を更新 4.解 θ が収束するまでステップ 2,3 を繰り返す ∇ y Ji (θ)=− exp (θ ( y )T Φ( xi )) ∑ y '=1 c exp (θ ( y ')T Φ(xi )) +{Φ( xi ) 0 y= yi y≠ yi θ(y) ←θ( y) +E ∇ y Ji (θ)for y=1,...,c

ロジスティック回帰

ロジスティック回帰

ロジスティック回帰

最小二乗確率的分類 基本的にロジスティック回帰と同じような式 ^p ( y∣x )= max (0, ^ θ j ( y)T Φj ( x)) ∑ y '=1 c max (0,θ j ( y ' ) T Φ( x)) ガウスカーネルについては今まで通りなので省略

まとめ ● 確率的に分類を行ったが、回帰を扱った為か今までと あまり変わらない印象を持った ● 尤度の計算により今までの回帰式を内包した式に発展 したためと思われる ● 今回は実験しなかったが、最小二乗確率的分類器とロ ジスティック回帰では、標本数によって分ける事が推 奨されている ( 標本数が多いと最小二乗推奨 )

課題 最小二乗確率的分類器を使用する際には標本数が大き い場合に最小二乗確率的分類器が望ましいとあるが、 実際問題ではどの程度の規模になると使い分けるよい のか実験してみる。

Add a comment

Related presentations

Presentación que realice en el Evento Nacional de Gobierno Abierto, realizado los ...

In this presentation we will describe our experience developing with a highly dyna...

Presentation to the LITA Forum 7th November 2014 Albuquerque, NM

Un recorrido por los cambios que nos generará el wearabletech en el futuro

Um paralelo entre as novidades & mercado em Wearable Computing e Tecnologias Assis...

Microsoft finally joins the smartwatch and fitness tracker game by introducing the...

Related pages

Blasenpunktionsbesteck m. MiroValve CH10 5ml (1 ST ...

Blasenpunktionsbesteck m. MiroValve CH10 5ml ab 92,85 € günstig kaufen (25.01.2016). Bestellen bei 5 Anbietern bei medizinfuchs.de
Read more

Latex Foley Kath.CH10 3ml geschl.Spitze (1 ST ...

Erfahrungsberichte und Meinungen zu Latex Foley Kath.CH10 3ml geschl.Spitze, 1 ST von Medicalimpex Import Export Medizinische Produkte
Read more

AQUACON CH10 / AQUACON CH20 - Iotronic Elektrogerätebau GmbH

25 ml je Analyse (ohne Spülvolumen) klar, filtriert drucklos Reagenzien Anzahl Lagertemperatur ... Indikator MP-R1002M für AQUACON CH10 / CH20 250 ml 5000 ml
Read more

Blasenpunktionsbesteck m. MiroValve CH10 5ml Katheter 1 ST ...

Blasenpunktionsbesteck m. MiroValve CH10 5ml Katheter 1 ST für 92,85 Euro (25.10.2015). 4 Preise im Preisvergleich. Angebote vergleichen und günstig ...
Read more

3 x 100 ml Spritze +3 Absaugkatheter CH10 ,Oel, Öl ...

3 x 100 ml Spritze +3 Absaugkatheter CH10 ,Oel, Öl, Werkstatt Auto KFZ Spritzen in Auto & Motorrad: Teile, Öl, Pflege- & Schmiermittel, Sonstige | eBay
Read more

Sup int Silikonballonkat CH10 Unibal 3ml 40cm (1 ST ...

Erfahrungsberichte und Meinungen zu Sup int Silikonballonkat CH10 Unibal 3ml 40cm (1 ST) von Ghc German Heal. GmbH bei medvergleich.de
Read more

ProCath Silikon Elastomer Suprapub. CH10 3ml - Prolinx GmbH

ProCath Silikon Elastomer Suprapub. CH10 3ml von Prolinx GmbH, Wirkstoffe: . Die Gelbe Liste Pharmindex ist ein Arzneimittelverzeichnis für Deutschland ...
Read more

UORPRI Silik.Bal.Kath.Tiem.CH10 3ml ster.L42 1 St: Amazon ...

UORPRI Silik.Bal.Kath.Tiem.CH10 3ml ster.L42 1 St. Kostenlose Lieferung ab 20 EUR f r Drogerie & Körperpflege-Produkte direkt von Amazon.de. Primed ...
Read more

Ballonkath CH10 05ml Silikon Urotech Tiemann 1 Stück ...

Ballonkath CH10 05ml Silikon Urotech Tiemann von Urotech ab 27,54 Euro im Medikamente-Preisvergleich von apomio.de. Günstig online bestellen bei einer ...
Read more