запустите процесс так, чтобы он не мог породить новые

Если Ваша система использует pam, создайте некоторого преданного недоверяемого пользователя и взгляните на /etc/security/limits.conf:

#Each line describes a limit for a user in the form:
#<domain>        <type>  <item>  <value>
#
#Where:
#<domain> can be:
#        - an user name
#        - a group name, with @group syntax
[...]
#
#<type> can have the two values:
#        - "soft" for enforcing the soft limits
#        - "hard" for enforcing hard limits
#
#<item> can be one of the following:
#        - core - limits the core file size (KB)
#        - data - max data size (KB)
#        - fsize - maximum filesize (KB)
#        - memlock - max locked-in-memory address space (KB)
#        - nofile - max number of open files
#        - rss - max resident set size (KB)
#        - stack - max stack size (KB)
#        - cpu - max CPU time (MIN)
#        - nproc - max number of processes
#        - as - address space limit (KB)
#        - maxlogins - max number of logins for this user
#        - maxsyslogins - max number of logins on the system
#        - priority - the priority to run user process with
#        - locks - max number of file locks the user can hold
#        - sigpending - max number of pending signals
#        - msgqueue - max memory used by POSIX message queues (bytes)
#        - nice - max nice priority allowed to raise to values: [-20, 19]
#        - rtprio - max realtime priority

Вы конкретно ищете nproc и возможно nofile. Хотя, я сомневаюсь, что любая программа работала бы с user hard nofile 0. Лучше скорректируйте полномочия файловой системы так, чтобы Ваш преданный пользователь не мог получить доступ ни к чему, что Вы не хотите это к доступу.

Отказ от ответственности: Я никогда не использовал это сам. (Я имею в виду pam материал. Создание преданного недоверяемого пользователя не может быть плохим.)