[Valeant]

Вы это уже пытались
BCDEdit /set PAE forceenable
BCDEdit /set nolowmem on
и дрйверами под видюху.

Интересно было бы еще проверить возможность по работе с виртуальной более 4Gb ну например с 5Gb (32bit это не сможет поддержать), а у вас?

Без опции PAE размер файла подкачки для 32-разрядных операционных систем не может быть больше 4 Гбайт (это максимальный размер общего виртуального пространства). Опция PAE позволяет адресовать до 64 Гбайт виртуального пространства для 32-разрядных систем, и до 1024 Гбайт для 64-разрядных операционных систем. Опция PAE является функцией диспетчера памяти и позволяет расширить максимальный доступный объем виртуальной памяти.

Далее все что написано, непроверенно так как нет исходного "материала" , если что то придется форматировать и устанавливать заново. Я бы попробовал, но решать вам.

Так как вся загрузка идет теперь из файла расположенного в каталоге \BOOT\bcd. После загрузки ПК формируется ветка реестра HKLM\BCD00000000 куда записываются данные из этого файла.
Использовался материал regedit ветка у меня идентификатор
HKEY_LOCAL_MACHINE\BCD00000000\Objects\{2a0cb476-f6dc-11dc-9f6c-9c626ce0cd6d}
HKEY_LOCAL_MACHINE\BCD00000000\Objects\{2a0cb476-f6dc-11dc-9f6c-9c626ce0cd6d}\Elements\15000007
Параметр Element REG_BINARY 00 00 00 80 00 00 00 00
(15000007 содержит /MAXMEM, 0x80000000 = 2048Gb кол-во памяти ОЗУ )
Сверка с командой bcdedit.exe /enum /v

Сылка на описание команд bcdedit
http://msdn.microsoft.com/en-us/library/aa906217.aspx
http://msdn.microsoft.com/en-us/library/ms791501.aspx
http://msdn.microsoft.com/en-us/library/aa906211.aspx

Можно так же использовать VistaBootPRO, для сохранения и восстановления bcd.

Есть еще один механизм, но он требует понимания работы примерное вот что зная что у вас Vista зарезервировала например один из блоков область памяти из последнего скрина ~256MB
D0000000 - DFFFFFFF (c 3328MB - 3584MB) - Intel G33/G31 .... Express Chipset PCI Express ...
D0000000 - DFFFFFFF (c 3328MB - 3584MB) - NVidia Geforce 9800
и т.д. ниже

можно попытаться сказать системе, что данная память повреждена или ее просто нет (т.е. через bcdedit.exe сказать что часть с 3328MB сбойная - D0000000) ключ truncatememory, сначала бэкап системы bcd в файл C:\BCDBackup на всякий случай, потом на экран данные

bcdedit /export "C:\BCDBackup" bcdedit.exe /enum /v

Определить идентификатор записи в загрузке , секция "Загрузка Windows" в {.............} например, у вас цифры другие будут

Загрузка Windows ------------------------ идентификатор {2a0cb476-f6dc-11dc-9f6c-9c626ce0cd6d} device partition=C: .... truncatememory 0x80000000

Как данное число перевести в нормальный вид, данное число 0х..... надо перевести в десятичное, просто в windows калькуляторе в режиме "Hex" набрать данное число и потом нажать на "Dec" получим десятичное число, делим его два раза на 1024 получаем MB. Например нажать "Hex" набрать D0000000, выбрать "Dec" = 3489660928, ну или делим на /1024/1024 = 3328MB

Команда
bcdedit.exe /set truncatememory [адрес памяти]. Он позволяет указать адрес памяти, расположенная за которым часть памяти будет игнорироваться Windows.
Далее говорим системе, не ошибитесь в идентификаторе у вас он другой

C:\Windows\system32>bcdedit.exe /set {идентификатор-какой-у-вас} truncatememory 3489660928

Проверяем

bcdedit.exe /enum /v

Кол-во памяти изменилось.

Команда блокировки PCI.
bcdedit.exe /set usefirmwarepcisettings [yes | no]
Она позволяет разрешить или запретить PCI-устройствам динамического назначения IRQ и других ресурсов ввода-вывода.

bcdedit.exe /set usefirmwarepcisettings no

Перегрузить. Переставить драйвера на видео, на материнку.
Далее вернуть память на место

bcdedit.exe /removevalue {идентификатор-какой-у-вас} truncatememory

Проверить наличие

bcdedit.exe /enum /v

Снять блокировку с PCI

bcdedit.exe /set usefirmwarepcisettings yes

Может и изменится.
Все делаете на свой страх и риск.