Это должен быть Linux? vSphere Гипервизор VMware (раньше названный ESXI) является бесплатным и специально предназначенным, чтобы быть легким хостом к VMs...
http://www.vmware.com/products/vsphere-hypervisor/overview.html
Проверьте версию RandR с этой командой:
xrandr-v
Это могло бы сказать что-то вроде этого:
Сервер сообщает о версии 1.1 RandR
xrandr является интерфейсом командной строки к расширению RandR. "-newmode" не поддерживается в версии 1.1 RandR.