課程描述INTRODUCTION
Python分類模型
日程安排SCHEDULE
課程(cheng)大綱(gang)Syllabus
Python分類模型
【課程目標】
本課程主要講解如何利用Python進行時間序列的數據建模。
通過本課程的學習,達到如下目的:
1、掌握數據建模的標準流程。
2、掌握各種分類預測模型的原理,以及算法實現。
3、掌握各種分類模型類的重要參數,以及應用。
4、掌握模型的評估指標、評估方法,以及過擬合評估。
5、掌握模型優化的基本方法,學會超參優化。
6、掌握(wo)集成優化思想,掌握(wo)高級的分類模型。
【授課對象】
業務支(zhi)持部(bu)(bu)(bu)、IT系統(tong)部(bu)(bu)(bu)、大(da)(da)數據系統(tong)開發(fa)部(bu)(bu)(bu)、大(da)(da)數據分析(xi)中心(xin)、網絡運維部(bu)(bu)(bu)等相關技(ji)術人員。
【課程大綱】
一、預測建模基礎
1、數據建模六步法
-選擇模型:基于業務選擇恰當的數據模型
-屬性篩選:選擇對目標變量有顯著影響的屬性來建模
-訓練模型:采用合適的算法,尋找到最合適的模型參數
-評估模型:進行評估模型的質量,判斷模型是否可用
-優化模型:如果評估結果不理想,則需要對模型進行優化
-應用模型:如果評估結果滿足要求,則可應用模型于業務場景
2、數據挖掘常用的模型
-數值預測模型:回歸預測、時序預測等
-分類預測模型:邏輯回歸、決策樹、神經網絡、支持向量機等
-市場細分:聚類、RFM、PCA等
-產品推薦:關聯分析、協同過濾等
-產品優化:回歸、隨機效用等
-產品定價:定價策略/最優定價等
3、屬性篩選/特征選擇/變量降維
-基于變量本身特征
-基于相關性判斷
-因子合并(PCA等)
-IV值篩選(評分卡使用)
-基于信息增益判斷(決策樹使用)
4、訓練模型及實現算法
-模型原理
-算法實現
5、模型評估
-評估指標
-評估方法
-過擬合評估
6、模型優化
-優化模型:選擇新模型/修改模型
-優化數據:新增顯著自變量
-優化公式:采用新的計算公式
7、模型應用
-模型解讀
-模型部署
-模型應用
8、好(hao)模型(xing)是優(you)化出(chu)來的
二、分類模型評估
1、三個方面評估:指標、方法、過擬合
2、兩大矩陣
-混淆矩陣
-代價矩陣
3、六大指標
-正確率Accuracy
-查準率Precision
-查全率Recall
-特異度Specify
-F度量值(/)
-提升指標lift
4、三條曲線
-ROC曲線和AUC
-PR曲線和BEP
-KS曲線和KS值
5、多分類模型評估指標
-宏指標:macro_P, macro_R
-宏指標:micro_P, micro_R
6、模型評估方法
-原始評估法
-留出法(Hold-Out)
-交叉驗證法(k-fold cross validation)
-自助采樣法(Bootstrapping)
7、其它評估
-過擬合評估:學習曲線
-殘差評估:白噪聲評估
三、邏輯回歸
問題:如何評估客戶購買產品的可能性?如何預測客戶行為?
如何預測客戶流失?銀行如何實現欠貸風險控制?
1、邏輯回歸模型簡介
2、邏輯回歸的種類
-二項邏輯回歸
-多項邏輯回歸
3、邏輯回歸方程解讀
4、帶分類自變量的邏輯回歸
5、邏輯回歸的算法實現及優化
-迭代樣本的隨機選擇
-變化的學習率
6、邏輯回歸+正則項
7、求解算法與懲罰項的互斥關系
8、多元邏輯回歸處理
-ovo
-ovr
9、邏輯回歸建模過程
案例:用sklearn庫實現銀行貸款違約預測
案例:訂閱者用戶的典型特征(二元邏輯回歸)
案(an)例(li):通信套餐(can)的用(yong)戶(hu)畫像(多元邏(luo)輯回歸)
四、決策樹
1、分類決策樹簡介
演練:識別銀行欠貨風險,提取欠貸者的特征
2、決策樹的三個關鍵問題
-最優屬性選擇
-熵、基尼系數
-信息增益、信息增益率
-屬性*劃分
-多元劃分與二元劃分
-連續變量最優劃分
-決策樹修剪
-剪枝原則
-預剪枝與后剪枝
3、構建決策樹的算法
-C5.0、CHAID、CART、QUEST
-各種算法的比較
4、決策樹的超參優化
5、決策樹的解讀
6、決策樹建模過程
案例:商場酸奶購買用戶特征提取
案例:客戶流失預警與客戶挽留
案例:識別拖欠銀行貨款者的特征,避免不良貨款
案例:識別電信詐騙者嘴臉,讓通信更安全
案(an)例(li):電力竊漏用戶自動識別
五、人工神經網絡
1、神經網絡簡介(ANN)
2、神經元基本原理
-加法器
-激活函數
3、神經網絡的結構
-隱藏層數量
-神經元個數
4、神經網絡的建立步驟
5、神經網絡的關鍵問題
6、BP算法實現
7、MLP多層神經網絡
案例:評估銀行用戶拖欠貨款的概率
案例:神經網絡預測產品銷量
六、線性判別分析(LDA)
1、判別分析簡介
-基本思想
2、判別分析種類
3、判別分析算法
-類間散席
-類內散席
4、LDA線性判別模型
5、多分類判別分析
案例:MBA學生錄取判別分析
案例(li):上市(shi)公司類別評估
七、最近鄰分類(KNN)
1、KNN的基本原理
2、K近鄰的關鍵問題
3、K近鄰的實現算法
-Brute暴力計算
-Kd_tree
-Ball_tre
八、樸素貝葉斯分類(NBN)
1、貝葉斯簡介
2、貝葉斯分類原理
-先驗概率和后驗概率
-條件概率和類概率
3、常見貝葉斯網絡
4、計算類別屬性的條件概率
5、估計連續屬性的條件概率
6、預測分類概率(計算概率)
7、拉普拉斯修正
案(an)例:評估銀行用戶拖欠貨款的概(gai)率
九、支持向量機(SVM)
1、支持向量機簡介
-適用場景
2、支持向量機原理
-支持向量
-*邊界超平面
3、線性不可分處理
-松弛系數
4、非線性SVM分類
5、常用核函數
-線性核函數
-多項式核
-高斯RBF核
-核函數的選擇原則
6、SMO算法
十、模型集成優化篇
1、模型的優化思想
2、集成模型的框架
-Bagging
-Boosting
-Stacking
3、集成算法的關鍵過程
-弱分類器如何構建
-組合策略:多個弱學習器如何形成強學習器
4、Bagging集成算法
-數據/屬性重抽樣
-決策依據:少數服從多數
-隨機森林RandomForest
5、Boosting集成算法
-基于誤分數據建模
-樣本選擇權重更新
-決策依據:加權投票
-AdaBoost模型
6、GBDT模型
7、XGBoost模型
8、LightGBM模(mo)型
十一、案例實戰
1、客戶流失預測和客戶挽留模型
2、銀行(xing)欠貸(dai)風險預測模型(xing)
結束:課程總結與問題答疑。
Python分類模型
轉載://bamboo-vinegar.cn/gkk_detail/265685.html
已開課(ke)時(shi)間Have start time
- 傅一航
IT相關公開培訓班
- 文檔安全、黑客攻防及信息安 講(jiang)師團
- 信息安全等級保護高級培訓班 講師(shi)團(tuan)
- Excel在企業管理中的高 許奕(yi)
- IT治理與審計*實踐 講師團
- 卓越軟件需求分析與管理實踐 郭樹行
- 企業架構與IT戰略規劃培訓 郭(guo)樹行
- 在軟件開發流程中構筑軟件質 楊學(xue)明
- 詳細設計與系統架構*實踐 講師團
- “SQL Server 2 賀偉
- 系統架構與詳細設計*實踐 曾(ceng)強華
- IT信息系統審計培訓 余老師
- 關于舉辦軟件研發過程實戰培 郭樹行
IT相關內訓
- 數據庫基礎及實操(MySQ 郭振杰(jie)
- Quick BI 數據分析 張曉(xiao)如(ru)
- 前沿信息技術解析與應用創新 張(zhang)世民
- Python基礎應用 張曉如
- IPA應用實戰 郭振(zhen)杰
- 自智網絡 楓影
- Python數據分析與數據 張曉如
- 6G技術與發展趨勢 楓影(ying)
- PYTHON編程從入門到進 張曉如
- Java企業級后臺開發 郭振杰
- SQL語句基礎使用 郭振杰
- 釘釘易搭低代碼開發與實戰應 張曉如(ru)