[pva]

#include <windows.h>

два варианта:

1. Попробуй уменьшить ProcessWorkingSet - это колличество страничек, которые находятся в оперативке. (смотри по индексу windows SDK)

2. используй функцию VirtualAlloc. Она способна выделить столько, сколько у тебя свапа. Приготовься с порно-свапу!

3. Используй GlobalAlloc, но: как можно меньше размером делай GlobalLock и указывай везде, где спрашивают тип памяти GMEM_MOVEABLE.

4. Лучший вариант - используй меньше памяти.