GRUB: отображать GRUB на внешнем дисплее, подключенном к ноутбуку?

Не делай этого. Заменив исходный R чем-то, что выводит строку на стандартный вывод, вы вполне можете запутать приложения, которые могут анализировать его вывод.

Вместо этого создайте скрипт-оболочку с новым именем и оставьте исходный исполняемый файл R без изменений. Не кладите этот скрипт в /usr/lib/R/bin/exec, а куда-нибудь вроде /usr/local/bin (если он вообще должен быть доступен всем пользователям). ). Это также не запутает более поздние обновления пакетов или сценарии удаления.

В качестве альтернативы вы можете определить функцию оболочки в файлах запуска оболочки:

myR () (
    echo "Memory limited to 10G"
    ulimit -Sv 10000000 #limit memory for 64-bit version
    exec /usr/lib/R/bin/exec/R "$@"
)

Другим очевидным вариантом может быть установка ограничения в сценариях инициализации оболочки (~/.bashrc для bash). Ограничение будет перенесено на любой процесс, запущенный из оболочки.