NTU ML14 notes

Machine learning 的過程大約可以用下面這張圖解釋

圖中首先有一堆資料點 $x_i$，這些資料點的產生是由某個分佈生成。 資料點會透過一個我們不知道的函數產生結果 $y_i = f(x_i)$ （可能會有雜訊）。 另外我們會有一個 hypothesis set $\mathcal{H}$，我們會透過一個演算法 $\mathcal{A}$ 從 $\mathcal{H}$ 之中找到一個 hypothesis $g$，最符合未知那個的 $f$。

舉例而言，銀行決定是否借錢給新客戶的時候，會先紀錄之前曾借出過的客戶， 也會有這些客戶的還款紀錄。

客戶的資料，例如存款、年收入、生日......等等就是每筆資料 $x_i$， 他們是否成功還款是 $y_i$。

銀行想要的就是從一堆假設 (hypothesis set) $\mathcal{H}$ 之中 使用演算法 $\mathcal{A}$ 選出一個最好的 hypothesis $g$，當有新客戶 $x$ 想借錢的時候， 能透過計算 $g(x)$ 決定是否該借錢給他。