计算机系统课程作业：汇编编程与缓冲区溢出实践

1. 作业背景与核心要求解析

计算机系统课程作为计算机专业的核心基础课，其课后作业往往聚焦于计算机底层原理的实践验证。从"HNU_计算机系统_第二次课后作业"这个标题可以拆解出几个关键信息点：

1. 课程层级：这是计算机专业本科二年级左右的课程作业，通常涉及汇编语言、内存管理、程序优化等中阶内容
2. 作业性质：第二次作业意味着可能承接第一次作业的字节序、数据表示等基础概念，向更复杂的系统层面延伸
3. 典型内容：根据国内高校该课程的常见安排，可能包含以下方向：
   • 汇编与C的混合编程
   • 缓冲区溢出实验
   • 内存地址空间分析
   • 简单的性能优化实践

提示：这类系统级编程作业通常需要Linux环境配合gcc工具链完成，建议提前配置好实验环境

2. 实验环境搭建要点

2.1 基础工具链配置

推荐使用Ubuntu 20.04 LTS作为实验环境，关键组件包括：

• gcc 9.4.0及以上版本（支持现代C标准）
• gdb 10.1及以上（带增强调试功能）
• objdump工具集（用于反汇编分析）
• Python 3.8+（辅助脚本编写）

安装命令示例：

sudo apt update sudo apt install build-essential gdb python3

2.2 开发辅助工具

1. VS Code配置：

   • 安装C/C++扩展包
   • 配置GDB调试预设
   • 推荐插件：Hex Editor（二进制查看）、Code Runner（快速执行）

2. 实用命令行工具：

   • xxd（十六进制查看）
   • strace（系统调用追踪）
   • ltrace（库函数追踪）

3. 典型作业内容深度解析

3.1 汇编与C的交互实践

常见作业形式：通过内联汇编实现特定功能（如位操作），需注意：

1. AT&T与Intel语法区别：

   // AT&T语法（gcc默认） asm("movl %eax, %ebx"); // Intel语法 asm(".intel_syntax noprefix"); asm("mov ebx, eax");

2. 寄存器约束示例：

   int a = 10, b; asm("mov %1, %%eax;" "add $5, %%eax;" "mov %%eax, %0;" : "=r"(b) // 输出 : "r"(a) // 输入 : "%eax" // 破坏寄存器 );

常见问题：忘记寄存器前的%转义符导致编译错误

3.2 缓冲区溢出实验

关键步骤演示：

1. 准备漏洞程序：

   // vuln.c #include <string.h> void vulnerable(char* str) { char buffer[16]; strcpy(buffer, str); // 无边界检查 } int main(int argc, char** argv) { vulnerable(argv[1]); return 0; }

2. 编译时关闭保护机制：

   gcc -fno-stack-protector -z execstack vuln.c -o vuln

3. 构造攻击载荷：

   # exploit.py import struct payload = b"A"*28 # 填充buffer+ebp payload += struct.pack("<I", 0xdeadbeef) # 覆盖返回地址 print(payload.hex())

4. 调试技巧与问题排查

4.1 GDB高级用法

1. 查看内存布局：

   (gdb) info proc mappings (gdb) x/32wx $esp

2. 反汇编关键函数：

   (gdb) disassemble vulnerable

3. 设置硬件断点：

   (gdb) watch *0xffffd010

4.2 常见错误处理

1. Segment Fault排查流程：

   • 使用ulimit -c unlimited开启core dump
   • 通过gdb ./vuln core分析崩溃现场
   • 检查info registers和backtrace

2. 链接错误处理：

   • 未定义引用：检查函数声明和库链接顺序
   • 重定义错误：检查头文件保护宏

5. 性能优化实践

5.1 编译器优化对比

测试不同优化级别的影响：

gcc -O0 -o test0 test.c # 无优化 gcc -O2 -o test2 test.c # 常用优化 gcc -O3 -o test3 test.c # 激进优化

使用perf工具分析：

perf stat ./test0 perf stat ./test2 perf stat ./test3

5.2 循环优化案例

原始代码：

for(int i=0; i<100; i++){ sum += array[i]; }

优化方案：

1. 循环展开（手动或通过#pragma unroll）
2. 使用寄存器变量
3. 改变访问模式提高缓存命中

6. 实验报告撰写建议

1. 结果呈现技巧：

   • 使用diff对比不同优化版本的汇编输出
   • 用图表展示性能测试数据
   • 附上关键内存快照截图

2. 分析要点：

   • 解释每步操作的底层原理
   • 对比理论预期与实际结果的差异
   • 讨论不同实现方案的优劣

3. 扩展思考：

   • 现代CPU的流水线影响
   • 安全防护机制（如ASLR）的作用
   • 不同架构（x86 vs ARM）的差异表现

在完成这类系统级作业时，最耗时的往往不是编码本身，而是对计算机底层行为的理解与调试。建议在实验过程中保持耐心，多使用调试工具观察程序的实际执行过程，这比单纯完成作业要求能获得更多系统层面的认知提升。