Начните с:
-Преодолевая границы Windows: Физическая память -
http://blogs.technet.com/b/mark_russ...1/3151288.aspx
-Преодолевая границы Windows: Виртуальная память -
http://blogs.technet.com/b/mark_russ...7/3182311.aspx
-Преодолевая границы Windows: Процессы и потоки -
http://blogs.technet.com/b/mark_russ...2/3290815.aspx
-Внутреннее устройство Microsoft Windows: Windows Server 2003, Windows XP и Windows 2000 (есть в русской редакции)
-WindowsInternals-Ch05 (Windows server 2008 and Windows Vista)
-Memory Sizing Guidance for Windows 7 -
http://msdn.microsoft.com/en-us/wind.../gg463425.aspx
-http://blogs.technet.com/b/mark_russinovich/