AI Engineering Tools

資料分析

機器學習與預測分析術語

了解特徵、目標、學習方法、數據分割、管道、擬合問題、交叉驗證、指標以及潛在的洩漏風險。

12 個術語

模型數據

特徵

Feature

意思

一個模型用於進行預測或發現模式的輸入變量。

使用時機

選擇在預測時可用且與任務相關的特徵。

應用範例

功能:tenure_days, order_count_90d, support_ticket_count。

模型數據

目標

Target

意思

監督模型訓練的目標,即模型預測的結果或標籤。

使用時機

使用清晰的觀察窗口和業務意義來定義它。

應用範例

目標:客戶是否會在接下來的 30 天內流失。

學習方法

監督學習

Supervised learning

意思

使用帶有標籤的範例,從輸入到已知目標值的映射學習。

使用時機

適用於分類或迴歸,當有歷史標籤可用時。

應用範例

使用過去的交易資料訓練一個分類器,這些交易被標記為欺詐或非欺詐。

學習方法

無監督學習

Unsupervised learning

意思

在沒有提供目標標籤的情況下,在資料中尋找結構。

使用時機

適用於聚類、降維或異常探索。

應用範例

根據銷售組合和客戶行為,將商店分群。

驗證

訓練-測試分割 (Train-test split)

Train-test split

意思

區分用於擬合模型的資料與用於最終評估的資料。

使用時機

在隨機分割可能會洩露資訊時,使用時間感知或群組感知的分割方法。

應用範例

在 1 月至 10 月進行訓練,在 11 月進行驗證,在 12 月進行測試。

工作流程

預處理管道

Preprocessing pipeline

意思

一個有序且可重複的轉換和模型擬合步驟序列。

使用時機

僅在訓練資料上進行預處理,並在預測期間使用相同的步驟。

應用範例

impute -> standardize -> one-hot encode -> fit model

學習方法

模型

Model

意思

一種用於進行預測或決策的學習到的數學或計算表示。

使用時機

比較一個簡單的基準線與更複雜的候選方案,並使用相同的評估協議。

應用範例

基準:邏輯迴歸;候選:梯度提升。

驗證

過度擬合

Overfitting

意思

當模型學習到訓練特定的雜訊,並且在未見過的資料上表現不佳時。

使用時機

使用驗證集進行檢測,並通過使用更簡單的模型、正則化或更具代表性的資料來減少它。

應用範例

訓練準確度 99%,驗證準確度 71%,表明存在過擬合。

驗證

欠擬合

Underfitting

意思

當模型太受限,無法捕捉資料中的重要模式時。

使用時機

檢查訓練和驗證效能是否都較差。

應用範例

當兩個錯誤仍然很高時,添加信息豐富的特性或更適合的模型。

驗證

交叉驗證

Cross-validation

意思

反覆將資料分割成訓練和驗證資料,以估計模型的效能。

使用時機

對於類別平衡、群組或時間順序,請使用適當的分隔器。

應用範例

對不平衡分類任務執行 5 倍層級交叉驗證。

驗證

評估指標

Evaluation metric

意思

一個用於判斷預測品質的數值指標。

使用時機

根據錯誤成本和類別平衡,而不是僅僅為了方便,選擇指標。

應用範例

追蹤精度和召回率,當假陽性和假陰性的成本不同時。

風險

資料洩漏

Data leakage

意思

當訓練使用在實際預測時不可用的資訊時。

使用時機

在信任結果之前,審計功能、分割時間、預處理和聚合窗口。

注意

洩漏可能會使離線評分看起來非常出色,但生產環境中的性能卻失敗。

應用範例

不要使用最終的退款狀態來預測訂單是否會被退款。