基础
编程基础
- 编程范式(Programming Paradigm)
- 命令式编程(Imperative Programming)
- 声明式编程(Declarative Programming)
- 函数式编程(Functional Programming)
- 面向对象编程(OOP)
- 设计模式(Design Patterns)先修:面向对象编程(OOP)
- SOLID 原则
- Clean Code(整洁代码)
- 代码坏味道(Code Smell)
- 重构(Refactoring)
- 文档(Documentation)
- 代码评审(Code Review)
- 调试(Debugging)
- 断点(Breakpoint)与交互式调试器
- 栈追踪(Stack Trace / Traceback)
- 异常处理(Exception Handling)
- 日志(Logging)
- 变量、对象与引用(Names, Objects and References)
- 可变与不可变(Mutable vs Immutable)
- 迭代器(Iterator)与可迭代对象先修:面向对象编程(OOP)
- 生成器(Generator)
- 装饰器(Decorator)
- 上下文管理器(Context Manager)与 with 语句
- 类型提示(Type Hints)
- 异步编程 async / await
- 多进程(Multiprocessing)
- 多线程(Threading)、GIL 与自由线程 Python
- C/C++(底层性能与 AI 框架根基)
- CUDA(NVIDIA GPU 通用计算)
- Java(企业后端与 JVM 生态)
- Go(并发与云原生服务)
- Rust(内存安全的系统语言)
- JavaScript / TypeScript 生态(运行时、包与工具链)
- SQL(数据处理视角)
数学与算法
- 概率:随机变量、分布与 softmax 采样
- 统计学:描述统计、置信区间与假设检验
- 导数:变化率、数值微分与链式法则
- 线性代数总览:线性方程组、线性变换与秩
- 向量:范数、点积与余弦相似度
- 梯度与反向传播
- 矩阵与矩阵运算
- 损失函数:MSE、交叉熵与困惑度
- 数组(Array)与 Python 列表
- 链表(Linked List)
- 栈(Stack)
- 队列(Queue)
- 哈希表(Hash Table)与 dict / set
- 树(Tree)
- 二叉树与二叉搜索树(BST)先修:树(Tree)
- 图(Graph)
- 堆(Heap)与优先队列
- Trie(前缀树 / 字典树)
- Big O:时间与空间复杂度
- 快速排序(Quicksort)
- 归并排序(Merge Sort)
- 二分搜索(Binary Search)
- 广度优先搜索(BFS)
- 深度优先搜索(DFS)
- 最短路径问题总览(BFS / Bellman-Ford / Floyd-Warshall)
- Dijkstra 最短路径算法
- 动态规划(Dynamic Programming)
- 贪心算法(Greedy)
- 特征值与特征向量先修:矩阵与矩阵运算
- 贝叶斯定理与贝叶斯推断
- 优化:梯度下降、动量与 Adam
- 正则化:L1、L2、Dropout 与权重衰减
- 归一化:特征缩放、BatchNorm、LayerNorm 与 RMSNorm
数据与数据库
- NumPy:数值计算的地基
- Pandas:表格数据分析(3.x)
- Polars:高性能 DataFrame(2.x)
- OpenPyXL:读写 Excel 文件
- PyArrow:列式内存格式与 Parquet
- Matplotlib:Python 绘图的底层标准
- Seaborn:统计可视化
- Plotly:交互式图表(7.x)
- Streamlit:用纯 Python 快速做数据应用
- SQL(结构化查询语言)
- ETL(抽取—转换—加载)
- 数据流水线(Data Pipeline)与编排
- 数据清洗(Data Cleaning)
- 数据验证(Data Validation)
- 数据版本管理(Data Versioning)
- 数据仓库(Data Warehouse)
- NoSQL(非关系型数据库)先修:SQL(结构化查询语言)
- 数据库索引(Database Index)先修:SQL(结构化查询语言)
- PostgreSQL(对象关系数据库)
- MySQL(InnoDB 关系数据库)
- MongoDB(文档数据库)
- Redis(内存数据结构服务器)
网络与建站
- HTTP(超文本传输协议)
- REST API(资源化的 HTTP 接口设计)
- WebSocket(全双工实时通信)
- FastAPI(基于类型注解的 Python 异步 Web 框架)
- Flask(轻量级 Python Web 框架)
- Django(“自带电池”的全栈 Python Web 框架)
- HTML(网页结构与 DOM)
- CSS(层叠样式表:层叠、盒模型与布局)
- JavaScript(浏览器与 Node.js 的通用语言)
- TypeScript(带静态类型的 JavaScript)
- React(声明式组件化 UI 库)
- Vue(渐进式响应式前端框架)
- Next.js(React 全栈框架)
- Linux 命令(文本处理、查找与权限)
- Shell 脚本(Bash 脚本的安全写法)
- SSH(安全远程登录与隧道)
- 进程管理(进程、信号、退出码与资源限制)
- 容器(namespace 隔离 + cgroup 限制的进程)
- 镜像(容器镜像的分层、缓存与安全)
- Docker(构建、运行与管理容器的工具)
- Docker Compose(多容器应用编排)
- Kubernetes(容器编排)
- 云计算(按需租用算力、存储与托管服务)
模型基础
- Scikit-learn:经典机器学习工具箱
- PyTorch:动态图深度学习框架
- TensorFlow 与 Keras
- JAX:可组合函数变换的数值计算库
- Hugging Face Transformers:预训练模型的统一接口
- Diffusers:扩散模型工具库
- PEFT 与 LoRA:参数高效微调
- 监督学习(Supervised Learning)
- 无监督学习(Unsupervised Learning)
- 半监督学习(Semi-supervised Learning)
- 回归(Regression)
- 分类(Classification)
- 聚类(Clustering)
- 特征工程(Feature Engineering)
- 训练集、验证集与测试集划分
- 交叉验证(Cross-Validation)
- 特征选择(Feature Selection)
- 过拟合(Overfitting)
- 欠拟合(Underfitting)
- 偏差-方差权衡(Bias-Variance Tradeoff)
- 神经网络(Neural Network)
- 感知机(Perceptron)
- 激活函数(Activation Function)
- 前向传播(Forward Propagation)
- 反向传播(Backpropagation)
- 卷积神经网络(CNN)
- 循环神经网络(RNN)
- 长短期记忆网络(LSTM)
- 生成对抗网络(GAN)
- 扩散模型(Diffusion Model)
- 大语言模型(LLM)
- 分词(Tokenization)
- 嵌入(Embedding)
- 注意力机制(Attention)
- Transformer
- 视觉 Transformer(ViT)
- 上下文窗口(Context Window)
- 推理(Inference)
- 预训练(Pre-training)
- 微调(Fine-tuning)
- 指令微调(Instruction Tuning / SFT)
- 基于人类反馈的强化学习(RLHF)
- 直接偏好优化(DPO)
- 推理模型(Reasoning Model)
- FP32(单精度浮点数)
- 量化(Quantization)
- FP16(半精度浮点数)先修:FP32(单精度浮点数)
- BF16(bfloat16,脑浮点数)
- INT8 量化
- INT4 / 4 比特量化(含 NF4、GGUF K-quants)
- 剪枝(Pruning)
- 知识蒸馏(Knowledge Distillation)
- LoRA(低秩适配微调)
- QLoRA(4-bit 量化底座上的 LoRA 微调)
AI 工程
- 提示词设计(Prompt Design)
- 系统提示词(System Prompt)
- Few-shot(少样本提示)
- 思维链(Chain-of-Thought, CoT)
- JSON Schema
- 结构化输出(Structured Output)
- 上下文管理(Context Management)
- 嵌入模型(Embedding Model)
- 上下文压缩(Context Compression)
- RAG(检索增强生成)
- 向量数据库(Vector Database)
- Chunking(文档切块)
- 语义搜索(Semantic Search)
- 元数据过滤(Metadata Filtering)
- 关键词搜索(Keyword Search / BM25)
- 混合搜索(Hybrid Search)
- Reranker(重排序模型)
- 知识库(Knowledge Base)
- FAISS
- Milvus
- Qdrant
- Chroma
- pgvector
- AI Agent(智能体)
- Agent Loop(智能体循环)
- 规划(Planning)
- 推理(Agent 中的推理与 ReAct)
- Tool Calling(工具调用)
- Function Calling(函数调用协议)
- 记忆系统(Agent Memory)
- 反思(Reflection / Self-Refine)
- 多智能体(Multi-Agent)
- 工作流编排(Workflow Orchestration)
- LangChain
- LangGraph
- LlamaIndex
- AutoGen
- CrewAI
- Benchmark(基准测试)
- 人工评价(Human Evaluation)
- LLM-as-a-Judge(大模型当裁判)
- 金标准数据集(Golden Dataset)
- 回归测试(Regression Testing for LLM Apps)
- 评测流水线(Evaluation Pipeline)
- 幻觉检测(Hallucination Detection)
- 质量指标(EM、F1、ROUGE、Recall@k、MRR、nDCG)
- AI 可观测性(Observability for AI Systems)
- 链路追踪(Distributed Tracing)
- 遥测(Telemetry)与 OpenTelemetry
- 失败分析(Failure Analysis / Error Analysis)
- 错误边界(Error Boundary)
- 降级策略(Graceful Degradation:重试、熔断、备用模型、兜底)
- 模型路由(Model Routing)
- 成本优化(LLM 应用的 Token 成本优化)
- 版本控制(Version Control)
- Git(分布式版本控制工具)
- GitHub(代码托管与协作平台)
- GitLab(一体化 DevOps 平台)
- 分支策略(Git Flow、GitHub Flow 与主干开发)
- CI/CD(持续集成与持续交付/部署)
- Pipeline(流水线:DAG、并行与缓存)
- 包管理(依赖声明、解析与锁文件)
本地部署
- 模型服务(Model Serving)
- API 网关(API Gateway / LLM Gateway)
- 批量推理(Batch Inference)
- 流式推理(Streaming Inference)
- 延迟优化(LLM Inference Latency Optimization)
- 缓存(LLM 应用中的响应缓存、语义缓存与前缀 KV 缓存)
- 负载均衡(Load Balancing for Model Serving)
- vLLM(高吞吐 LLM 推理与服务引擎)
- llama.cpp(CPU/端侧大模型推理引擎)
- Ollama(本地大模型运行与服务工具)
- TensorRT(NVIDIA GPU 推理优化引擎)
- Triton Inference Server(NVIDIA Triton 推理服务器)