前言: 這章主要介紹logistic回歸和bayes法。兩者都屬分類,前者引入了logistic函數,后者引入了貝葉斯定理,都是比較基礎的數學知識。 但是logistic無需先驗的訓練樣本,后者需要。 貝葉斯法很強大,很多郵件、網頁篩選都有用到,這里只介紹樸素bayes法。理
前言:這章主要介紹logistic回歸和bayes法。兩者都屬分類,前者引入了logistic函數,后者引入了貝葉斯定理,都是比較基礎的數學知識。
但是logistic無需先驗的訓練樣本,后者需要。
貝葉斯法很強大,很多郵件、網頁篩選都有用到,這里只介紹樸素bayes法。理解其關鍵在于應用中條件概率的提取。
引用《機器學習》上的一句話:
“在特定前提下,任一學習算法如果使輸出的假設預測和訓練數據之間的誤差平方最小化,它將輸出一極大似然假設。”
正文:
后續:對于logistic回歸,最后梯度下降法計算最小J(x)詳細解法可見參考資料1.
Logistic回歸就是要學習得到,使得正例的特征遠大于0,負例的特征遠小于0,強調在全部訓練實例上達到這個目標
對于bayes法,例題見參考資料2.
參考資料:1.logistic回歸,講的很詳細
2.bayes法,一步步都很清楚
3.貝葉斯方法的理解,數學之美
4.bayes法的概念有好的介紹
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com