整體來說，機(jī)器學(xué)習(xí)算法可以分為 3 大類：

　　0.1 監(jiān)督學(xué)習(xí)

　　工作原理：該算法由自變量（協(xié)變量、預(yù)測(cè)變量）和因變量（結(jié)果變量）組成，由一組自變量對(duì)因變量進(jìn)行預(yù)測(cè)。通過這些變量集合，我們生成一個(gè)將輸入映射到輸出的函數(shù)。訓(xùn)練過程達(dá)到我們?cè)O(shè)定的損失閾值停止訓(xùn)練，也就是使模型達(dá)到我們需要的準(zhǔn)確度等水平。

　　監(jiān)督學(xué)習(xí)的例子：回歸，決策樹，隨機(jī)森林，KNN，邏輯回歸等

　　0.2 無監(jiān)督學(xué)習(xí)

　　工作原理：在無監(jiān)督學(xué)習(xí)算法中，我們沒有目標(biāo)或結(jié)果變量來預(yù)測(cè)。 通常用于不同群體的群體聚類。

　　無監(jiān)督學(xué)習(xí)的例子：Apriori 算法，K-means。

　　0.3 強(qiáng)化學(xué)習(xí)

　　工作原理： 強(qiáng)化學(xué)習(xí)（reinforcement learning），又稱再勵(lì)學(xué)習(xí)、評(píng)價(jià)學(xué)習(xí)，學(xué)習(xí)不是單一方法，而是一種機(jī)器學(xué)習(xí)方式，在智能控制機(jī)器人及分析預(yù)測(cè)等領(lǐng)域有許多應(yīng)用。

　　強(qiáng)化學(xué)習(xí)例子：馬爾可夫決策過程

　　通用機(jī)器學(xué)習(xí)算法列表

　　1. 線性回歸

　　2. Logistic 回歸

　　3. 決策樹

　　4. SVM

　　5. 樸素貝葉斯

　　6. KNN

　　7. K 均值

　　8. 隨機(jī)森林

　　9. 降維算法

　　10. 梯度提升算法

　　1.GBM

　　2.XGBoost

　　3.LightGBM

　　4.CatBoost