模型數據
特徵
Feature
意思
一個模型用於進行預測或發現模式的輸入變量。
使用時機
選擇在預測時可用且與任務相關的特徵。
應用範例
功能:tenure_days, order_count_90d, support_ticket_count。資料分析
了解特徵、目標、學習方法、數據分割、管道、擬合問題、交叉驗證、指標以及潛在的洩漏風險。
12 個術語
模型數據
Feature
一個模型用於進行預測或發現模式的輸入變量。
選擇在預測時可用且與任務相關的特徵。
功能:tenure_days, order_count_90d, support_ticket_count。模型數據
Target
監督模型訓練的目標,即模型預測的結果或標籤。
使用清晰的觀察窗口和業務意義來定義它。
目標:客戶是否會在接下來的 30 天內流失。學習方法
Supervised learning
使用帶有標籤的範例,從輸入到已知目標值的映射學習。
適用於分類或迴歸,當有歷史標籤可用時。
使用過去的交易資料訓練一個分類器,這些交易被標記為欺詐或非欺詐。學習方法
Unsupervised learning
在沒有提供目標標籤的情況下,在資料中尋找結構。
適用於聚類、降維或異常探索。
根據銷售組合和客戶行為,將商店分群。驗證
Train-test split
區分用於擬合模型的資料與用於最終評估的資料。
在隨機分割可能會洩露資訊時,使用時間感知或群組感知的分割方法。
在 1 月至 10 月進行訓練,在 11 月進行驗證,在 12 月進行測試。工作流程
Preprocessing pipeline
一個有序且可重複的轉換和模型擬合步驟序列。
僅在訓練資料上進行預處理,並在預測期間使用相同的步驟。
impute -> standardize -> one-hot encode -> fit model學習方法
Model
一種用於進行預測或決策的學習到的數學或計算表示。
比較一個簡單的基準線與更複雜的候選方案,並使用相同的評估協議。
基準:邏輯迴歸;候選:梯度提升。驗證
Overfitting
當模型學習到訓練特定的雜訊,並且在未見過的資料上表現不佳時。
使用驗證集進行檢測,並通過使用更簡單的模型、正則化或更具代表性的資料來減少它。
訓練準確度 99%,驗證準確度 71%,表明存在過擬合。驗證
Underfitting
當模型太受限,無法捕捉資料中的重要模式時。
檢查訓練和驗證效能是否都較差。
當兩個錯誤仍然很高時,添加信息豐富的特性或更適合的模型。驗證
Cross-validation
反覆將資料分割成訓練和驗證資料,以估計模型的效能。
對於類別平衡、群組或時間順序,請使用適當的分隔器。
對不平衡分類任務執行 5 倍層級交叉驗證。驗證
Evaluation metric
一個用於判斷預測品質的數值指標。
根據錯誤成本和類別平衡,而不是僅僅為了方便,選擇指標。
追蹤精度和召回率,當假陽性和假陰性的成本不同時。風險
Data leakage
當訓練使用在實際預測時不可用的資訊時。
在信任結果之前,審計功能、分割時間、預處理和聚合窗口。
洩漏可能會使離線評分看起來非常出色,但生產環境中的性能卻失敗。
不要使用最終的退款狀態來預測訂單是否會被退款。