iptables: слишком большой размер вставки индекса

Это означает, что вы пытаетесь вставить правило в позицию, которой нет в таблице.

В этом случае -I INPUT 5 сообщает iptables вставить правило в позицию 5 таблицы INPUT , но в таблицу короче этого.

Это руководство явно предполагает некоторые уже существующие правила, которых у вас нет. Я посмотрел на него, и он не показывает того, чего они ожидают.

Скорее всего можно просто пропустить 5 :

sudo iptables -I INPUT -m state --state NEW -m tcp -p tcp -m multiport --dports 5901:5903,6001:6003 -j ACCEPT