Вы можете использовать библиотеку интерпозиции libumem и функцию findleaks mdb.
См. https://blogs.oracle.com/dlutz/entry/memory_leak_detection_with_libumem и https://stackoverflow.com/questions/4656981/solaris-libumem-why-not-show -memory-leak-for-first-dynamic-allocation