Marginal Probability て「普通」の確率やん...

Norman Fenton, Martin Neil 著 "Risk Assessment and Decision Analysis with Bayesian Networks"の Example 4.11 と Box 4.7 Sigma Notation for Marginalization を元にして、Marginal Probability について整理した。

Risk Assessment and Decision Analysis with Bayesian Networks

posted with amazlet at 17.02.20

Norman Fenton Martin Neil
CRC Press
売り上げランキング: 37,717

Amazon.co.jpで詳細を見る

他の専門分野でも言えることだが、確率の表記や名称が、明確に統一されているとは思えない。当然のこととして、誤用もあるので余計に混乱する。また、「不用意な？」日本語訳による混乱もあるかもしれないので、ここでは本書の英語表記を優先した。そして Σ の表記など、個人的な考察も加えてみた。

注意：誤り等は全て私の責任で、良書である本書にはありません。

「普通」の確率じゃん...

特性が (color, texture) のボールが、以下の数（及び割合）で袋に入っている。

                    Color
                Black    White  

Texture Gloss  60(30%)  50(25%)
        Matte  40(20%)  20(10%)
        Vinyl  20(10%)  10(5%)
                                                

例えば、「ボールが黒である確率 or 黒のボールの割合」のことを

the probability of the marginal event "ball is black"

あるいは the marginal probability of "ball is black" 。

更に「噛み砕いて言えば」 the probability of the event "ball is black" occurring 。

あれ、結局「普通の（条件なしの）確率」じゃん？

marginal probability の日本語訳は「周辺確率」のようです。


なぜ Marginal Probability なの？

注意：これは、ずっと前に何かの本で読んだ記憶からの推測です。理解を深めるため、自分なりに理屈をつけました。間違っていたらゴメンなさい。

この marginal を、素直に辞書で調べても判然としない。名詞 margin の以下の 2 つの意味を形容詞化したのが marginal だと考えると納得する。marginal probabilities の文脈では、動詞として marginalize が使われる。

margin noun
1. the empty space at the side of a written or printed page

• the left-hand/right-hand margin
• a narrow/wide margin
• notes scribbled in the margin

5. (formal) the extreme edge or limit of a place

• the eastern margin of the Indian Ocean

この margin の「余白、欄外、端」から、Two-Way 確率テーブルの「周囲、端っこ、周辺」に集計される確率なので 「marginal probabilities 周辺確率」ということ（でしょう...）。


Marginal Probability を求める

では、先の「ボールの確率テーブル」から the probability of the marginal event "ball is black" を求める。

　P(Color = back)
　= P(Color = black, Texture = gloss)
　　+ P(Color = black, Texture = matte)
　　+ P(Color = black, Texture = vinyl)

　= 0.3 + 0.2 + 0.1

　= 0.6

同様に the probability of the marginal event "ball is gloss" を求める。

　P(Texture = gloss)
　= P(Color = black, Texture = gloss)
　　+ P(Color = white, Texture = gloss)

　= 0.3 + 0.25

　= 0.55

Σ による表記

先の the probability of the marginal event "ball is black" の算出過程「足し算の繰り返し」は、以下のように表記できる。

これは、color = black から「black に注目」した確率。これを一般化した「すべての color」とすると

Java などのオブジェクト指向言語的な、「P(color = black) はクラス P(color) から『black のインスタンス化』」という表現と重なる。統計学的に正しい言い回しか不明だが、私なりには腑に落ちる。

上記を一般化する。

A = {a₁, a₂ , ... , a_n}, B = {b₁, b₂ , ... , b_m} の場合、P(A = a_i) は marginalizing over B in (A, B) により得られる。

A の full probability distribution は

更に簡潔な記述として

最後の式は、私的な理解として full probability distribution に加えて

P(A) を P(A = a_i) の「雛形、クラス、class」

と考える。つまり

P(A,B) は joint probability（同時確率、結合確率）。よって、A は {a₁, a₂ , ... , a_n} と色々変わるけれども、ある A の事象の起こる確率 P(a_n) は、a_n と全ての B との joint probabilies の合計を示す。

「BN 変数削除の 2 Facts」に続く。

/* text */