我没有 OSX 的经验，但至少在 Linux 中你可以这样做：

首先，了解一下该库可能正在使用哪些系统调用（syscall或int 80h在 Linux 中），如果有的话。对于这部分，您可以使用您最喜欢的反汇编程序或代码跟踪程序。如果库本身没有任何系统调用，找出或推断其子函数可能使用的系统调用。如果您不知道或者这一步由于库的大小和/或复杂性而变得太困难，您可以跳过第一部分。

然后，从gdb程序开始。如果现在您已经知道要捕获哪些系统调用，那么只捕获那些。否则将它们全部捕获。命令是catch syscall. 然后r运行程序。

此时我通常会做disp/10i $pc一点点代码看看。

进入系统调用后，执行backtrace打印堆栈帧。在所有这些或仅在您感兴趣的那些中设置断点。使用说明是break，例如break *0xdeadbeef。然后continue。

如果您到达所需的库或函数，那太好了。如果没有，则delete是您到达的断点，然后continue重复，直到到达您感兴趣的函数。

希望这可以帮助。