Сложно так общаться, но по-моему у меня начинают проявляться телепатические возможности...
Думаю проблема с порядком разрешений в твоем конфиге. См. Modes.
В сексции Screen, а точнее в ее подсекции Display, поменяй порядок разрешений и так для каждой подсекции.
Какое у тебя максимальное разрешение, это уж решать тебе.
Section "Screen"
Subsection "Display"
Depth 8
Modes "1024x768" "800x600" "640x480"
# Modes "640x480" "800x600" "1024x768"
ViewPort 0 0
Virtual 0 0
EndSubsection
Subsection "Display"
...
EndSection
Угадал?
