机器学习知识体系概述与实践流程详解

# 机器学习知识体系概述与实践流程详解
- 基本概念
  - 定义
    - 通过算法让计算机从数据中学习规律
  - 学习类型
    - 监督学习
      - 分类
        - 二分类
        - 多分类
      - 回归
        - 线性回归
        - 非线性回归
    - 无监督学习
      - 聚类
        - K-means
        - 随机森林聚类
      - 降维
        - 主成分分析（PCA）
        - t-SNE
    - 半监督学习
      - 数据利用
    - 强化学习
      - 状态、动作、奖励
  - 核心问题
    - 过拟合
      - 解决方法
    - 欠拟合
      - 解决方法
    - 泛化能力
      - 重要性
- 常见算法
  - 分类算法
    - 逻辑回归
      - 原理
      - 应用
      - 优缺点
    - 支持向量机（SVM）
      - 原理
        - 最大边界
      - 核函数
        - 线性核
        - 非线性核
    - 决策树
      - 算法
        - ID3
        - C4.5
      - 剪枝
      - 优缺点分析
  - 回归算法
    - 线性回归
      - 原理
      - 正则化
        - L1 正则化
        - L2 正则化
    - 随机森林回归
      - 原理
      - 优缺点
    - 支持向量回归（SVR）
      - 原理
  - 无监督学习算法
    - K-means聚类
      - 步骤
      - 初始化
      - 迭代
      - 缺点
    - 主成分分析（PCA）
      - 目标
      - 应用
      - 限制
- 数据预处理
  - 数据清洗
    - 缺失值处理
      - 删除法
      - 插值法
      - 填充法
    - 异常值检测
      - 统计方法
        - 箱型图
      - 可视化
        - 散点图
  - 特征工程
    - 数值型特征
      - 标准化
      - 归一化
      - 离散化
    - 类别型特征
      - 独热编码
      - 标签编码
      - 特征选择
- 模型评估
  - 分类任务指标
    - 准确率
    - 精确率
    - 召回率
    - F1值
    - ROC-AUC
    - 混淆矩阵
  - 回归任务指标
    - 均方误差（MSE）
    - 平均绝对误差（MAE）
    - 决定系数（R²）
    - 预测区间
- 实践流程
  - 数据获取
    - 数据源
      - 公开数据集
      - 爬虫抓取
  - 数据预处理
    - 清洗与转换
  - 模型选择
    - 基于任务的选择
  - 模型训练
    - 验证集
    - 交叉验证
  - 模型评估
    - 性能对比
  - 模型部署
    - 线上环境
    - 模型监控