Сегодня столкнулся с одной проблемой на своей Linux Mandriva: VirtualBox OSE отказался загружать виртуальную машину, мотивировав свой отказ следующим:

VirtualBox can't operate in VMX root mode. Please disable the KVM kernel extension, recompile your kernel and reboot.

VBox status code: -4011 (VERR_VMX_IN_VMX_ROOT_MODE).
Код ошибки: 0×80004005
Компонент: Console
Интерфейс: IConsole {1dea5c4b-0753—4193-b909-22330f64ec45}

Эта известная проблема, неоднократно упоминающаяся в багтрекерах. Причина заключается в том, что VirtualBox OSE конфликтует с виртуальной машиной ядра Linux — KVM.

Решается она достаточно просто. Для начала зайдите в консоль и авторизируйтесь как root следующей командой:

[v673@localhost ~]$ su
Password: <здесь_ваш_root_пароль>

Чтобы посмотреть, какие модули загружены, воспользуйтесь следующей командой lsmod:

[root@localhost v673]# lsmod
Module                  Size  Used by              
ipt_IFWLOG              2624  1                    
ipt_psd                43624  0                    
xt_time                 2524  0                    
xt_connlimit            3684  0                    
xt_realm                1276  0                    
iptable_raw             1820  0                    
xt_comment              1276  18                   
xt_policy               2748  0   
.....

Перекомпилировать ядро нам, скорей всего, не придется. Достаточно отключить модули kvm и kvm_intel:

[root@localhost v673]# rmmod kvm_intel
[root@localhost v673]# rmmod kvm

Но в этом случае Вы сможете использовать VirtualBox OSE до следующей перезагрузки. Потом действия по отключению модулей придется повторить.

Если Вам не нужна функциональность KVM и Вам не нравится перспектива после каждой перезагрузки вводить одни и те же команды, то можно удалить модуль KVM из ядра Linux следующей командой:

[root@localhost v673]# modprobe -r kvm_intel

Вот и все! Эта ошибка теперь должна исчезнуть.