信息论领域的权威教材，系统讲解熵、相对熵、互信息、数据压缩、信道容量等核心概念。第2版新增了信息论与统计学之间的联系。被全球数百所大学的信息论、通信和机器学习课程采用。
关联抽象层级
本教材覆盖以下抽象层级，帮助你建立从底层到顶层的完整知识体系。
为什么读这本书
信息论是理解数据压缩、通信系统、机器学习的数学基础。熵的概念贯穿整个计算机科学：从数据结构的编码效率到 ML 的交叉熵损失函数。这本书用清晰的数学语言建立了信息量的度量体系。
🎯AI 时代的学习建议
在 AI 能生成代码的今天，读这本书的价值不在于"学会写代码"，而在于建立判断 AI 输出的能力。当你理解了低级代码、高级语言、应用抽象的核心原理，你就能：
- •判断 AI 生成的代码是否符合底层约束 — 当 AI 推荐一段"优化"方案时，你能从汇编语言的角度判断它是否真的有效
- •向 AI 提出正确的问题 — 理解低级代码、高级语言、应用抽象的设计动机，让你能精准描述问题，而不是模糊地求助
- •在 AI 方案遇到瓶颈时定位根因 — 当 AI 推荐的架构方案在流量峰值下崩溃，你能从人类思维出发，推导出正确的取舍
阅读策略：不要试图记住所有细节。重点理解每一章的设计动机（为什么需要这个抽象？）和边界条件（什么情况下会失效？）。这些是 AI 无法替代你判断的部分。
理论-实践双轨学习路径
在 AI 代码生成能力快速演进的今天，掌握低级代码、高级语言、应用抽象的本质概念比以往任何时候都更具战略价值。如何在 AI 时代系统性地掌握这些本质概念？我们推荐"理论-实践"双轨学习路径：
理论轨道：从经典教材中找 What 和 Why
通过经典教材深入理解每一层的核心概念（What）、设计动机（Why）与边界条件。理解为什么需要这个抽象？什么情况下会失效？这些是 AI 无法替代你判断的部分。
实践轨道：从交互沙盒中找 How
通过交互沙盒亲手操作、观察行为变化、建立工程直觉（How）。当你既理解了理论，又积累了实践经验，便能在 AI 生成的代码出现性能瓶颈时快速定位根因，在架构设计面临权衡时做出基于原理的决策。
💡 核心洞察：这正是从"AI 使用者"进阶为"AI 驾驭者"的关键能力——在 AI 生成的代码出现问题时快速定位根因，在架构设计遇到瓶颈时做出正确取舍。当你同时具备理论深度与实践经验，你才能成为驾驶 AI 机车的大牛。
章节导览
学习资源
关联沙盒实验
汇编游乐场
AssemblyPlayground
交互式汇编语言环境。编写简单的汇编程序，观察寄存器变化和内存访问，理解低级代码如何控制硬件。
编译器实验室
CompilerLab
交互式编译器可视化。输入高级语言代码，观察词法分析、语法分析、代码生成的全过程。
SQL 游乐场
SQLPlayground
交互式 SQL 查询实验室。通过挑战学习 SELECT、JOIN、聚合、子查询等 SQL 核心语法。
Bomb Lab
BombLab
CSAPP 炸弹实验室。阅读 x86-64 汇编代码，通过 6 个关卡拆除炸弹，掌握二进制调试技能。
Wireshark HTTP 实验室
WiresharkHttpLab
计算机网络 HTTP 抓包分析实验室。分析真实 HTTP 请求/响应报文，学习请求方法、状态码、头部字段、缓存控制等核心概念。
CUDA 编程实验室
CudaLab
GPU 并行编程入门实验室。通过向量加法、标量乘法、矩阵转置等挑战，学习 CUDA 核函数、线程层次和内存管理。
标签
常见问题
信息论基础（第2版）是什么？
信息论基础（第2版）（Elements of Information Theory, 2nd Edition）是Thomas M. Cover、Joyce A. Thomas编写的计算机科学经典教材，由Wiley-Interscience出版。信息论领域的权威教材，系统讲解熵、相对熵、互信息、数据压缩、信道容量等核心概念。第2版新增了信息论与统计学之间的联系。被全球数百所大学的信息论、通信和机器学习课程采用。
为什么要读信息论基础（第2版）？
AI 能帮你写代码，但不能帮你建立工程直觉。信息论基础（第2版）帮你深入理解信息论、熵、数据压缩的核心概念和设计动机，让你能判断 AI 生成的代码是否符合设计约束。
信息论基础（第2版）适合什么水平的学习者？
信息论基础（第2版）适合想要深入研究的资深工程师。建议先完成入门和进阶阶段的学习。
信息论基础（第2版）有多少章？主要内容是什么？
信息论基础（第2版）共 9 章，涵盖熵与相对熵、熵的关系与性质、典型序列等核心主题。每章都配有详细的导读和核心概念解析。
如何配合交互沙盒学习信息论基础（第2版）？
建议采用理论-实践双轨学习法：从信息论基础（第2版）中找 What 和 Why，从交互沙盒中找 How。学完教材一章后，打开对应层级的沙盒亲手操作验证。这种学习方式建立的工程直觉，是 AI 无法替代的。