Я еще не использовал новую программу установки, но я использовал mfsbsd с 9.x, делая именно то, что вы описали.
На mfsbsd есть возможность zfsinstall:
-z zfs_part_size : create zfs parition of this size (default: all space left)
mfsbsd очень просто и быстро использовать.
Решил проблему, я использовал следующее для компиляции моего приложения, я не указал библиотеку VTE.
CLANG -WALL -G GUI.C -O GUI PKG-CONFIG - CFLAGS --Libs GTK + -3.0 VTE