Похоже, это проблема с OI-изображением. Я установил OmniOS, и он отлично загружается.
Ладно, мне помогли рекомендации из комментариев. Трюк сделал следующие команды
chown root /data
chmod go-w /data
chown sftptest:sftp_users /data/sftp
chmod ug+rwX /data/sftp
chmod 755 /data
Также отредактировано sshd_config
. Изменено
ChrootDirectory /data/sftp
с
ChrootDirectory /data