Definition of Dichotomy

上一篇，Max Number of Dichotomies，解釋了什麼是Dichotomy。本篇，再來看看台大的線上課程，Machine Learning Foundations，對於Dichotomy的定義

大家對此定義，是否感到困惑？式子左邊有h，為何右邊也有h？

這有點像是我們在唸文言文，有許多字是一字多義。尤其是「于」這個字，「煢煢僕夫，于彼冀方」這裡的「于」是「往」的意思。「婿立于門外」這裡的「于」是「於」的意思。當然，本人學問沒這麼大，這些例子是從網路上抓下來的。

又想到最近台灣的教育當局，要刪減文言文的比例，個人覺得不算是壞事，原因為何？待我另立篇說明之。學文言文有一個好處就是，不會執著於一個字只能有一個解釋，可以發揮想像力及推演能力，去理解一篇文章。

回到正題。這裡要說的是，左邊的h，指的是Dichotomy。而右邊的h，就是Hypothesis。而Dichotomy是一種很特別的Hypothesis。

先看式子的右邊，這是什麼意思？



這是N個 {X, O} 的笛卡爾積。請參考WIKI的Cartesian Product (笛卡爾積)

https://en.wikipedia.org/wiki/Cartesian_product

N = 2去想這件事 (+1為O，-1為X)：



N = 3時：



所以，當N=3時，Dichotomy的個數最多有8個 |h(x1, x2, x3)|

Hypothesis的定義

找到一個hypothesis，h，能區分平面上的3個點為 (+1為O，-1為X)

h(x₁) = +1

h(x₂) = +1

h(x₃) = -1

換一個方式問，能區分平面上的3個點為 +1、+1、-1，的Hypothesis，有幾個？上一篇說明，有無限多個。

我們把所有能區分平面上的3個點為 +1、+1、-1，的Hypothesis，歸為一類，稱為Dichotomy，用符號h'，表示之，以區分h。

h'(x₁, x₂, x₃) = (h(x₁), h(x₂), h(x₃)) = (+1, +1, -1)

於是，我們把無限多個Hypothesis，歸為一類，用一個Dichotomy表示。課程裡所提的，式子左邊的h，其實就是h'。因為課程用相同的符號h表達Dichotomy和Hypothesis，造成我們的困擾，有可能是因為我們文言文讀的不夠多的關係。而為何用相同的h代表Dichotomy和Hypothesis？這是因為Dichotomy是一種特殊的Hypothesis。從此以後，課文提到的Hypothesis，其實就是Dichotomy。這樣想，就明白了。

-Count