Werden wir Helden für einen Tag
Home | About | ArchiveStupid Machine Learning problem #1, part 1
問題：英文名，有分開男性和女性用。例如 John 是男名， Mary 是女名。根據劉家傑的說法， Vivian 是男名， Vivien/Viviana 才是女名。有些名是男女都用，例如 Alex 、 Jacky 。人類在看到未見過的英文名，約略可以估到其性別。例如 Yulia 你會估是女名，而 Mikael 卻估是男名。為甚麼我們會這樣估呢？男女名的分辦，我們就好似有 intuition 那樣。但是，對於電腦，就算你給它非常常見的英文名如 Annie, Angus, Kelly, Kevin ，它也並不能分辨出來。
今次的目的是寫一個 function ，就稱它為 predGender() ，如輸入 predGender("ANNIE") ，它會回報 TRUE ，代表那是一個女名。而輸入 predGender(ANGUS") ，它會回報 FALSE 。
問題類型：此為一個 Supervised learning 的 classification 問題。合理的做法，是找一堆英文名，而此堆英文名是已經有人標示了是男名還是女名。問題是要用甚麼的 feature ，才能準確的分辨英文名屬男屬女。
數據：數據來自美國的 Census department 。根據 1990 年 Census 數據，它們編集了主流 90% 人的英文名列表，而且是有分開男性和女性兩個檔案。從數據可見，女性的名稱比男性為多，因為女名的花款較多。
未完成的 prototype:
Code: predGender
將數據隨機分成三份： Training, cross validation 和 test 。我先從 training set 找出了男女名稱最尾一字母的 distribution 。
從圖中所見，女名(黑線)多以 A, E, I 作結。那麼，我們是否可以用英文名的最尾字母估計名稱的姓別呢？在今次的例子，我用上了 Naïve Bayes 來設定模型，而 feature 就是英文名的最後一個字母。
根據模型，我輸入了以下的數據
WILLIAMS, VICTORIA, NEO, TRINITY, LISBETH, MIKAEL, DORIS
電腦的估計是
Male, Female, Male, Female, Female, Female, Male
其中 WILLIAMS 和 NEO 估中為男性， VICTORIA, LISBETH 也估中為女性，但是 MIKAEL 和 DORIS 卻估錯了。七中五，好像不錯吧，但事實真係咁好嗎？
我分別用了 Training set 和 CV set 來作檢驗。 Training 和 CV 的準確度如下：
Training
precision: 0.583
recall: 0.407
F1 score: 0.479
Cross validation
precision: 0.565
recall: 0.39
F1 score: 0.462
從結果可見，如此模型相當差。而比較 Training 和 CV 的準確度，兩者數目差不多地衰，故此模型是 underfit (high bias) 。而解決 high bias 的方法，是要更多的 feature 。
下一集會看看還有甚麼 feature 有用。