確率の Chain Rule

以下は、Norman Fenton, Martin Neil 著 "Risk Assessment and Decision Analysis with Bayesian Networks" P.93 の Theorem 4.3（定理 4.3）

For any two events A and B:

P(A∩B) = P(A)P(B|A)

Note that if P(A) = 0 then A is an event with no possible outcomes. 

It follows that P(A∩B) also contains no possible outcomes and so P(A∩B) = 0.

定理だけでは「？」となるかもしれないが、"Note" からも定理には納得するだろう。

次は、Example 4.16 (P.94) をもとにした、あるサッカーチームの問題。

• そのチームが先にゴールする確率 P(A)：40%
• そのチームが勝つ確率 P(B)
• そのチームが先にゴールして試合に勝つ確率 P(B|A)：70%

　問題：P(A), P(B|A) は過去のデータから算出できる。では P(A∩B) とは何だろうか？
　答え：そのチームが、次の試合もそれまでの試合と同様と仮定して、先にゴールして勝つ確率。

　よって Theorem 4.3 より  P(A∩B)  = 0.4 × 0.7 = 0.28 。

この Theorem 4.3 を 2 つ以上の事象に拡張して一般化したのが、本書 Box 4.9 (P.94) の定義 Chain Rule（Wikipedia では Chain rule (probability) のこと）。 the probability of the joint event の A∩B∩C は

  P(A∩B∩C) = P(A∩ (B∩C) )
                     = P(A | (B∩C) ) × P(B∩C)
                     = P(A | (B∩C) ) × P(B | C) × P(C)

ところで P(A) とは P(A = True) , P(A = False) の 2 値で、先の式は一般的に以下のように記述される。

P(A, B, C) =  P(A | (B, C) ) × P(B | C) × P(C)

よって、"A is false, B is true, and C is false" の場合は

P(not A, B, not C) =  P(not A | (B, not C) ) × P(B | not C) × P(not C)

さらに n 個の事象 の full joint probability distribution は

  P(A₁, A₂, A₃, ..., A_n) = P(A₁ | A₂, A₃, ..., A_n)
                                      × P(A₂ | A₃, ..., A_n) × P(A_n-1 | A_n) × P(A_n) 

これをコンパクトに記述すると

「超シンプルな BN：AgentRisk 登場」に続く。

/**Tex */