【C】libc中的hook机制

迷南。 2022-08-10 10:52 215阅读 0赞

libc中的hook机制，主要用于内存分配，它就像无处不在的钩子一样，一旦设置好了 hook，我们就可以在内存分配的地方随心所欲地做我们想做的事情。  
在malloc.h中，声明了一些hook，原型如下：

/* Hooks for debugging and user-defined versions. */
    extern void (*__free_hook) (void *__ptr, const void *);
    extern void *(*__malloc_hook)(size_t __size, const void *);
    extern void *(*__realloc_hook)(void *__ptr, size_t __size, const void *);
    extern void *(*__memalign_hook)(size_t __alignment, size_t __size, const void *);
    extern void (*__after_morecore_hook) (void);

从上面的注释中可以看出，我们可以自定义这些hook，用于debug。这些hook都是函数指针，以\_\_malloc\_hook为例，当指定\_\_malloc\_hook为自定义的钩子后，调用malloc时，就会进入我们指定的自定义钩子，下面以一个例子说明。

// test.cpp
    #include <stdio.h>
    #include <stdlib.h>
    #include <malloc.h>
    
    static void* (*old_malloc_hook)(size_t, const void*); // 函数指针，用于保存原始的malloc钩子
    
    static void* my_malloc(size_t size, const void *caller) // 自定义malloc钩子
    {
        static int malloc_time = 0; // 记录malloc钩子调用了几次
        __malloc_hook = old_malloc_hook; // 还原malloc钩子，否则下面真正的malloc调用会造成递归死循环
        void *ptr = malloc(size); // 真正的内存分配
        __malloc_hook = my_malloc; // 重置malloc钩子为自定义值
        printf("%s, addr: %p, size: %lu, time:%d\n", __func__, ptr, size, ++malloc_time);
        return ptr;
    }
    
    void __attribute__((constructor)) malloc_init() // __attribute__((constructor)) 是gcc的一个特性
    // 意思是在进入main主方法之前会首先调用这个函数，我们用它来初始化malloc钩子
    {
        old_malloc_hook = __malloc_hook; // 保存原始的malloc钩子
        __malloc_hook = my_malloc; // 设置malloc钩子为自定义值
    }
    
    int main()
    {
        char *c = (char*)malloc(sizeof(char)); // malloc
        free(c);
    
        int *i = new int; // new
        delete i;
    
        FILE *f = fopen("./file", "r"); //fopen
        if (NULL != f) {
            fclose(f);
        }
    
        return 0;
    }

运行结果如下：

$g++ -o test test.cpp
    $./test
    my_malloc, addr: 0x209c010, size: 1, time:1
    my_malloc, addr: 0x209c010, size: 4, time:2
    my_malloc, addr: 0x209c030, size: 568, time:3

从上面的结果可以看出，不仅malloc调用会进入我们自定义的malloc钩子，而且new、fopen（还有许多其它的函数）也会进入malloc钩子。需要注意的一点是，这些内存分配的钩子需要不断的还原和重置，也真是因为如此，hook机制不适用于多线程。