技能树 🌳

打勾表示已掌握,方框是待解锁。标 [-] 的有基础但需要系统化。 按 10 关组织,通关一路点亮。


🏰 第 1 关:新手村

描述性统计

  • [ ] 均值(Mean)
  • [ ] 中位数(Median)
  • [ ] 众数(Mode)
  • [ ] 标准差(Standard Deviation)
  • [ ] 方差(Variance)
  • [ ] 四分位数(Q1, Q2, Q3)
  • [ ] 偏度(Skewness)
  • [ ] 峰度(Kurtosis)

分布

  • [ ] 正态分布及其性质
  • [ ] 长尾分布(幂律分布)
  • [ ] 二项分布
  • [ ] 均匀分布

异常值检测

  • [ ] IQR 方法(四分位距)
  • [ ] Z-score 方法
  • [ ] 箱线图识别异常值

工具

  • [-] pandas describe() 和统计方法
  • [-] matplotlib 直方图
  • [-] seaborn 箱线图 / 小提琴图

数据获取

  • [ ] Kaggle 数据集搜索和使用
  • [ ] UCI ML Repository
  • [ ] Google Dataset Search
  • [ ] API 调用(requests + API Key)
  • [ ] JSON 解析
  • [ ] CSV/JSON/Parquet 读写
  • [ ] 简单爬虫(requests + BeautifulSoup)
  • [ ] 数据质量评估(行数、列数、缺失率、数据类型)

🧭 第 2 关:探险者

相关分析

  • [ ] Pearson 相关系数(线性关系)
  • [ ] Spearman 相关系数(单调关系)
  • [ ] 散点图矩阵(pairplot)
  • [ ] 相关性热力图

回归分析

  • [ ] 简单线性回归
  • [ ] 多元线性回归
  • [ ] 回归系数解读
  • [ ] R²(决定系数)
  • [ ] 残差分析(正态性、同方差性)
  • [ ] 多重共线性(VIF)
  • [ ] statsmodels 库使用

方差分析

  • [ ] 单因素 ANOVA
  • [ ] 组间 vs 组内方差
  • [ ] 事后检验(Tukey HSD)

🔍 第 3 关:侦探

假设检验基础

  • [ ] 零假设 / 备择假设
  • [ ] 检验统计量
  • [ ] p 值的正确理解
  • [ ] 第一类错误(α)/ 第二类错误(β)
  • [ ] 统计功效(Power)
  • [ ] 置信区间

常用检验

  • [ ] 独立样本 t 检验
  • [ ] 配对样本 t 检验
  • [ ] 单样本 t 检验
  • [ ] 卡方检验(独立性检验)
  • [ ] Mann-Whitney U 检验(非参数)
  • [ ] Shapiro-Wilk 正态性检验

A/B 测试

  • [ ] 样本量计算(功效分析)
  • [ ] 随机分组策略
  • [ ] 结果解读框架
  • [ ] 多重检验校正(Bonferroni)
  • [ ] FDR 校正(Benjamini-Hochberg)
  • [ ] scipy.stats 库使用

模拟能力

  • [ ] 蒙特卡洛模拟
  • [ ] 用代码验证统计定理

🎨 第 4 关:故事大王

数据获取

  • [ ] 公开数据集(Kaggle、UCI ML Repository、政府开放数据、Google Dataset Search)
  • [ ] REST API 调用(API Key 管理、分页处理、JSON 解析)
  • [ ] 简单爬虫(requests + BeautifulSoup,遵守 robots.txt)
  • [ ] 数据格式(CSV、JSON、Parquet、数据库连接)
  • [ ] 数据质量初步评估(行数、列数、缺失率、数据类型)

EDA 方法论

  • [ ] 变量类型识别(数值/分类/时间/文本)
  • [ ] 缺失值分析(比例、模式)
  • [ ] 缺失值处理(删除/填充/插值)
  • [ ] 特征分布分析
  • [ ] 变量关系探索

可视化原则

  • [ ] 图表类型选择(比较/构成/分布/关系)
  • [ ] 颜色理论(色盲友好、连续/分类用色)
  • [ ] 图表标注(标题、轴标签、图例、注释)
  • [ ] 避免误导性图表
  • [ ] Tufte 原则(数据墨水比)

图表类型(10+ 种)

  • [ ] 柱状图 / 条形图
  • [ ] 折线图
  • [ ] 散点图
  • [ ] 热力图
  • [ ] 箱线图
  • [ ] 小提琴图
  • [ ] 直方图 / 密度图
  • [ ] 饼图 / 环形图
  • [ ] 堆叠面积图
  • [ ] 分面图(Facet)
  • [ ] 树状图(Treemap)
  • [ ] 平行坐标图
  • [ ] 地理图(Choropleth)

工具

  • [-] matplotlib 基础
  • [ ] seaborn 统计图表
  • [ ] Plotly 交互式图表
  • [ ] Streamlit 仪表盘搭建
  • [ ] Gradio demo 搭建

🎖️ 第 5 关:军师

指标体系

  • [ ] 北极星指标定义
  • [ ] 漏斗分析
  • [ ] 留存分析
  • [ ] 同期群分析(Cohort Analysis)
  • [ ] 指标分层设计(北极星 → 一级 → 二级)

数据故事

  • [ ] 金字塔原理(结论先行)
  • [ ] SCQA 框架
  • [ ] 数据驱动的叙事结构

案例分析

  • [ ] Netflix 推荐算法的商业价值
  • [ ] Uber 动态定价策略
  • [ ] Airbnb 定价策略

数据产品

  • [ ] 数据看板设计原则
  • [ ] 报表自动化
  • [ ] 数据产品需求文档

🎙️ 第 5.5 关:外交官

数据汇报

  • [ ] 向不同受众讲不同内容(技术/业务/高管)
  • [ ] 一页纸报告(金字塔原理实践)
  • [ ] 三版改写(同一分析,三种讲法)
  • [ ] 数据周报写作(200 字以内)
  • [ ] 口头讲解能力(3 分钟讲清一个结论)

常见陷阱

  • [ ] 信息过载识别
  • [ ] 技术术语轰炸避免
  • [ ] "只有图表没有结论" 检查

🔮 第 6 关:预言家

6A:机器学习基础

  • [ ] 监督学习 vs 无监督学习
  • [ ] 训练集 / 验证集 / 测试集划分
  • [ ] 交叉验证(K-Fold)
  • [ ] 过拟合 / 欠拟合
  • [ ] 偏差-方差权衡

分类算法 [必做]

  • [ ] 逻辑回归
  • [ ] 决策树
  • [ ] 随机森林
  • [ ] XGBoost
  • [ ] 不平衡数据处理(SMOTE、class weight)

回归算法 [必做]

  • [ ] 线性回归
  • [ ] Ridge 正则化
  • [ ] Lasso 正则化
  • [ ] XGBoost Regressor

聚类算法 [建议做]

  • [ ] K-Means
  • [ ] DBSCAN
  • [ ] 层次聚类
  • [ ] 轮廓系数评估

特征工程

  • [ ] 缺失值处理策略
  • [ ] One-Hot 编码
  • [ ] Label 编码
  • [ ] 标准化(StandardScaler)
  • [ ] 归一化(MinMaxScaler)
  • [ ] 特征选择(过滤法/包裹法/嵌入法)
  • [ ] 特征交叉 / 多项式特征

模型评估

  • [ ] 准确率(Accuracy)
  • [ ] 精确率(Precision)
  • [ ] 召回率(Recall)
  • [ ] F1 Score
  • [ ] ROC 曲线 / AUC
  • [ ] 混淆矩阵
  • [ ] RMSE / MAE / R²(回归评估)

工具

  • [ ] scikit-learn 全流程
  • [ ] XGBoost 库
  • [ ] imbalanced-learn

6B:非结构化数据(选做)

文本分析

  • [ ] 分词(Tokenization)
  • [ ] 去停用词
  • [ ] 词袋模型 / TF-IDF
  • [ ] Word2Vec / GloVe 概念
  • [ ] 情感分析
  • [ ] 主题建模(LDA)
  • [ ] NLTK / spaCy 使用

图像分析

  • [ ] CNN 基础(卷积、池化、全连接)
  • [ ] PyTorch 入门(Tensor、Dataset、DataLoader)
  • [ ] 训练循环编写
  • [ ] 迁移学习(ResNet / EfficientNet)
  • [ ] 数据增强
  • [ ] 医学影像分类

🐉 第 7 关:架构师

湖仓一体(Lakehouse)

  • [ ] 数据湖 vs 数据仓库 vs 湖仓一体
  • [ ] Apache Hudi
  • [ ] Apache Iceberg
  • [ ] Delta Lake

OLAP 引擎

  • [ ] StarRocks(架构、特性)
  • [ ] ClickHouse(架构、特性)
  • [ ] Apache Doris
  • [ ] 向量化执行、列式存储
  • [ ] 选型对比方法

实时计算

  • [ ] Apache Flink
  • [ ] Spark Streaming
  • [ ] Kafka Streams
  • [ ] 流批一体架构

数据分层与调度

  • [ ] ODS → DWD → DWS → ADS 分层
  • [ ] DolphinScheduler / Airflow
  • [ ] DAG 调度、依赖管理
  • [ ] 数据质量校验、SLA 监控

🛡️ 第 8 关:守护者

信息系统

  • [ ] ERP(企业资源计划)
  • [ ] CRM(客户关系管理)
  • [ ] DSS(决策支持系统)
  • [ ] BI(商业智能)
  • [ ] MES(制造执行系统)

数据安全

  • [ ] Python 脱敏脚本(pandas + re,CLI 工具)
  • [ ] GDPR 核心原则
  • [ ] 数据脱敏方法(k-匿名、差分隐私)
  • [ ] 加密基础(对称/非对称/哈希)
  • [ ] 访问控制(RBAC)
  • [ ] CIA 三要素

数据治理

  • [ ] 数据质量 6 维度
  • [ ] 元数据管理
  • [ ] 数据血缘
  • [ ] 数据目录
  • [ ] 数据治理成熟度模型

合规与伦理

  • [ ] 算法偏见识别
  • [ ] 隐私计算(联邦学习、安全多方计算)
  • [ ] 数据使用的道德边界
  • [ ] 安全开发生命周期

📜 第 9 关:学者

领域调研

  • [ ] 信息源识别(行业报告 / 技术博客 / 学术论文 / 开源项目 / 竞品)
  • [ ] PEST 分析
  • [ ] 波特五力分析
  • [ ] 技术雷达绘制
  • [ ] SWOT 分析
  • [ ] 领域全景图(1 页)
  • [ ] 调研报告写作(结论先行、金字塔原理)
  • [ ] AI 辅助调研(信息收集 + 验证)

CRIPE 框架

  • [ ] Critique(批判现有研究)
  • [ ] Research(提出研究问题)
  • [ ] Integration(整合理论)
  • [ ] Practice(实践验证)
  • [ ] Evaluation(评估效果)

文献管理

  • [ ] Zotero 安装和使用
  • [ ] 文献标签分类
  • [ ] 自动生成参考文献

文献搜索

  • [ ] Google Scholar 高级搜索
  • [ ] Web of Science
  • [ ] 中国知网
  • [ ] Semantic Scholar
  • [ ] 引用追踪(谁引用了这篇)
  • [ ] 三遍读法(摘要→图表→精读)
  • [ ] AI 辅助论文阅读(辅助,不替代)

学术写作

  • [ ] IMRAD 结构
  • [ ] 摘要写作(100/200/300 字)
  • [ ] 引言写作(建立研究空白)
  • [ ] 文献综述写作(不是罗列,是综合)
  • [ ] 方法部分(可复现性)
  • [ ] 结果呈现(图表 + 描述)
  • [ ] 讨论部分(局限性和启示)
  • [ ] APA / Chicago 引用格式
  • [ ] 查重(<10%)

👑 第 10 关:终极 Boss

全流程整合

  • [ ] 问题定义
  • [ ] 数据获取
  • [ ] 数据清洗
  • [ ] 探索性分析
  • [ ] 建模
  • [ ] 可视化
  • [ ] 结果输出

工程能力

  • [ ] GitHub 仓库管理
  • [ ] README 撰写
  • [ ] 代码可复现性
  • [ ] 在线 Demo 部署(Streamlit Cloud / Hugging Face Spaces)

职场能力

  • [ ] 项目展示(15 分钟讲述)
  • [ ] 面试问答准备
  • [ ] GitHub Profile 优化

📊 统计:共 130+ 个技能点,按 10 关解锁。每个关卡点亮约 13 个技能。 💡 进度追踪:定期回顾技能树,把新掌握的技能打勾。 🎯 目标:通关时点亮 80% 以上技能点,最终 Boss 关要求 100% 整合能力。

最后更新:2026-04-20