[yurfed]

но когда находился в менюшке F8, комп также "вырубался". »

Действительно либо материнка, либо видео. Пробуйте с другой видюхой.
Если памяти две планки и больше, пробуйте по одной и разным слотам. Собсно и если одна, тоже, по разным слотам её.