gdb基本工作原理

gdb的基本工作原理刘东雨丝风片@chinaunixmsn:[e-mail]2007.12.15gdb简介gdb-GNUdebugger。gdb的主要功能–救死扶伤。gdb的主要用途–修复bug；分析程序结构。gdb官方网址-gdb下载地址-调试的组成架构调试机目标机gdbgdbserverptrace系统调用ptrace系统调用目标程序目标程序mi接口cli接口图形化调试界面用户远程调试本地调试gdb调试的工具–ptrace系统调用（1）ptrace系统调用的原型longptrace(enum__ptrace_requestrequest,pid_tpid,void*addr,void*data);ptrace系统调用的简要说明ptrace系统调用提供了一种方法来让父进程可以观察和控制其它进程的执行，检查和改变其核心映像以及寄存器。gdb调试的工具–ptrace系统调用（2）ptrace系统调用的主要选项PTRACE_TRACEME表示本进程将被其父进程跟踪，交付给这个进程的所有信号（除SIGKILL之外），都将使其停止，父进程将通过wait()获知这一情况。PTRACE_ATTACHattach到一个指定的进程，使其成为当前进程跟踪的子进程，子进程的行为等同于它进行了一次PTRACE_TRACEME操作。PTRACE_CONT继续运行之前停止的子进程。可同时向子进程交付指定的信号。gdb的三种调试方式（1）attach并调试一个已经运行的进程调试关系的建立过程：用户确定需要进行调试的进程id；运行gdb，输入attachpid，gdb对指定进程执行下述操作：ptrace(PTRACE_ATTACH,pid,0,0);gdb的三种调试方式（2）attach并调试一个已经运行的进程gdb的三种调试方式（3）运行并调试一个新的进程调试关系的建立过程：运行gdb，通过命令行参数或file命令指定目标程序。输入run命令，gdb执行下述操作：通过fork()系统调用创建一个新进程；在新创建的子进程中执行下述操作：ptrace(PTRACE_TRACEME,0,0,0);在子进程中通过execv()系统调用加载用户指定的可执行文件。gdb的三种调试方式（4）运行并调试一个新的进程gdb的三种调试方式（5）远程调试目标机上新创建的进程gdb运行在调试机上，gdbserver运行在目标机上，两者之间的通信数据格式由gdb远程串行协议（RemoteSerialProtocol)定义。RSP协议数据的基本格式为：“$..........#xx”。gdbserver的启动方式相当于运行并调试一个新创建的进程。gdb的三种调试方式（6）远程调试目标机上新创建的进程gdb调试的基础–信号（1）在使用参数为PTRACE_TRACEME或PTRACE_ATTACH的ptrace系统调用建立调试关系之后，交付给目标程序的任何信号（除SIGKILL之外）都将被gdb先行截获，或在远程调试中被gdbserver截获并通知gdb。gdb因此有机会对信号进行相应处理，并根据信号的属性决定在继续目标程序运行时是否将之前截获的信号实际交付给目标程序。gdb调试的基础–信号（2）信号是实现断点功能的基础。以x86为例，向某个地址打入断点，实际上就是往该地址写入断点指令INT3，即0xCC。目标程序运行到这条指令之后就会触发SIGTRAP信号，gdb捕获到这个信号，根据目标程序当前停止位置查询gdb维护的断点链表，若发现在该地址确实存在断点，则可判定为断点命中。gdb暂停目标程序运行的方法是向其发送SIGSTOP信号。kill_lwp(process-head.id,SIGSTOP);gdb的同步模式和异步模式同步模式–gdb将以同步方式等待目标程序发生停止事件，可称之为“死等”。因此，在目标程序运行期间，gdb不再扫描标准输入，用户也无法输入任何调试命令，要么等待目标程序发生调试事件而停止，要么通过“Ctrlc”来暂停目标程序的运行。异步模式–gdb不会同步等待目标程序发生停止事件，此类事件将通过异步上报的方式告知gdb。在目标程序运行期间，gdb仍将扫描标准输入，用户可以输入调试命令。使用同步模式还是异步模式由调试目标决定，在启动gdb之后通过target命令的参数给出。比如远程同步目标为targetremote…，而远程异步目标为targetasync…。gdb远程异步模式中的事件循环（1）gdb远程异步模式的运转完全是由外部事件来激励的。共有两个外部事件源，一个是标准输入（用户输入的调试命令），一个是远程连接（gdbserver上报的异步事件）。负责对外部事件源进行检测和对事件进行分发处理的功能模块就是事件循环。建立调试连接之后，gdb就会不断地对上述两个文件描述符进行poll操作。一旦发现某个文件描述符上有输入事件，就将该事件分发给相应的功能模块进行处理，该事件处理完毕之后将回到事件循环继续进行poll操作。gdb远程异步模式中的事件循环（2）调试机目标机gdbserverptrace系统调用目标程序用户poll操作调试命令处理模块目标事件处理模块gdbgdb远程异步模式中的事件循环（3）标准输入上会出现哪些事件？用户输入的任何调试命令，比如cli的continue、next、step、breakpoint或者是mi的exec-continue、exec-next、exec-step、break-insert等等。远程连接上会出现哪些事件？目标程序可能遇到的任何调试事件，比如遇到断点、收到随机信号、单步结束、线程创建、线程退出、进程退出等等。gdb指令级单步的实现（1）所谓指令级单步就是指gdb控制目标程序只运行一条指令之后即停止。指令级单步是next、step、nexti、stepi等运行类调试命令的基础。指令级单步有硬件单步和软件单步之分。所谓硬件单步是指cpu架构本身就支持指令级单步，目标程序可以在运行一条指令之后自动停止。所谓软件单步是指cpu架构不支持指令级单步，需要gdb用软件方法来实现指令级单步。支持硬件单步的架构如x86和ppc。对于x86，可通过设置EFLAGS寄存器中的TF标志来将cpu置于单步模式。对于ppc，则可通过设置MSR寄存器中的SE标志来将cpu置于单步模式。在单步模式中，cpu每执行一条指令，就会产生一个单步异常，通知gdb进行处理。gdb指令级单步的实现（2）不支持硬件单步的架构如arm和mips。对于此类架构，gdb采用的是用临时的软件断点来模拟单步的方法。即在需执行指令的下一条指令处临时插入一个断点，然后让目标程序继续运行，它会在执行完当前指令之后遇到下一条指令处的临时断点，于是目标程序停止，通知gdb命中断点，gdb再将此断点删除，由此来完成指令级单步的过程。（插入临时断点需要gdb实现代码分支预测的功能）初始状态在下一条指令插入断点继续运行命中断点删除临时断点gdbnext命令的实现（1）next命令实现c代码级的单步。分析其实现机制首先需要理解steprange以及step_range_start和step_range_end的概念。执行next命令时，gdb会计算出当前停止位置的c语句的第一条指令的地址作为step_range_start，然后计算出当前停止位置下一行的c语句的第一条指令的地址作为step_range_end，随后控制目标程序从当前停止位置开始走指令级单步，直至pc超出steprange为止。cnt++;80483ea:mov0x80496c4,%eax80483ef:add$0x1,%eax80483f2:mov%eax,0x80496c4cnt++;80483f7:mov0x80496c4,%eax80483fc:add$0x1,%eax80483ff:mov%eax,0x80496c4step_range_startstep_range_endsteprangegdbnext命令的实现（2）next命令的结束条件：pcstep_range_start||pc=step_range_end。之所以不能简单地判断pc是否到达step_range_end，是因为step_range_end仅仅是c源代码意义上的下一行的第一条指令的地址，目标程序实际运行时未必就会到达那里。因此，next命令的结束条件可以理解为只要pc离开当前源代码行即可。next过程中遇到函数调用怎么办？我们知道，next命令是会跨过函数调用的，这个过程是如何实现的呢？gdbnext命令的实现（3）next命令跨越函数调用的过程：1、从当前停止位置开始走指令级单步；2、走到子函数第一条指令时发现是函数调用，就在函数返回地址插入一个临时断点；3、让目标程序继续运行，通过子函数体，直至遇到之前插入的临时断点；4、继续走指令级单步，直至满足next命令的结束条件为止。cnt=foo(cnt);804834d:mov0x8049554,%eax8048352:mov%eax,(%esp)8048355:call8048324foo804835a:mov%eax,0x8049554cnt++;804835f:mov0x8049554,%eax8048364:add$0x1,%eax8048367:mov%eax,0x8049554intfoo(intm){8048324:push%ebp8048325:mov%esp,%ebpreturnm+1;8048327:mov0x8(%ebp),%eax804832a:add$0x1,%eax}804832d:pop%ebp804832e:ret11234gdbstep、nexti、stepi命令的实现step命令和next命令一样，也是实现c源代码级的单步，对于简单语句，step完全等同于next。唯一不同的是，若单步过程中遇到函数调用，step命令将停止在子函数的起始处，而不是将其跨越（无调试信息的子函数除外）。nexti命令实现指令级单步，和next命令类似，nexti命令单步过程中不会进入子函数调用。stepi命令实现指令级单步，而且是严格的指令级单步，每次直接走一条指令后即停止，不再区分是否存在函数调用。gdbfinish命令的实现finish命令会让目标程序继续执行完当前函数的剩余语句，并停止在返回到上一级函数之后的第一条指令处（也就是调用当前函数时的返回地址）。因此，实现finish命令时，只需找到当前函数的返回地址，并在该处插入一个临时断点，然后让目标程序继续运行，直至遇到该断点而停止。gdbuntil命令的实现不带参数的until命令让目标程序运行至当前函数中当前行后的任意一行。和next命令类似，这种until命令也是用指令级单步来实现的，但不同的是它的step_range_start设定为当前函数的起始位置，也就是说，若指令级单步过程中pc向函数前部移动，程序是不会停止的，仅当程序单步至当前行后的某一行时程序才会停止，这就提供了一种跳出循环体的快捷方式。带参数的until命令让目标程序继续运行，直至达到指定位置为止。因为只要在当前函数体内，until命令的目的地址可以任意指定，因此不能再用指令级单步来实现它，而是采用在指定地址插入临时断点，然后让目标程序继续运行直至遇到断点停止的方法。关于until命令需要注意的是，不管带参数还是不带参数，until都是针对当前函数内部而言的，也就是说，只要pc离开当前函数体程序就会停止。gdb对断点的处理（1）断点功能的实现就是在指定位置插入断点指令，使目标程序运行至该处时产生SIGTRAP信号，该信号被gdb捕获，通过断点地址的匹配确定