Как заставить VLC играть файл ISO непосредственно?

Вы не можете. Привязка ключа будет звонить cmd_bind_key_parse функция от cmd-bind-key.c который в свою очередь будет (в конечном счете) звонить key_string_get_modifiers от key-string.c:

/* Find modifiers. */
105     int
106     key_string_get_modifiers(const char **string)
107     {
108         int modifiers;
109         
110         modifiers = 0;
111         while (((*string)[0] != '\0') && (*string)[1] == '-') {
112             switch ((*string)[0]) {
113                 case 'C':
114                 case 'c':
115                 modifiers |= KEYC_CTRL;
116                 break;
117                 case 'M':
118                 case 'm':
119                 modifiers |= KEYC_ESCAPE;
120                 break;
121                 case 'S':
122                 case 's':
123                 modifiers |= KEYC_SHIFT;
124                 break;
125             }
126             *string += 2;
127         }
128         return (modifiers);
129     } 

tmux.c содержит модифицирующую клавишу #define объявления и из того файла мы имеем:

106     /* Key modifier bits. */
107     #define KEYC_ESCAPE 0x2000
108     #define KEYC_CTRL 0x4000
109     #define KEYC_SHIFT 0x8000
110     #define KEYC_PREFIX 0x10000 

На поверхности, хотя, не выглядит слишком трудным изменить; возможно, выходные (известные последние слова ;)) проект?