_san_, есть возможность проверить карту на другом компьютере ? или взять похожую по мощности и поставить в свой .
2) понизь частоту GPU на ~ 100Мгц , проверь . если не поможет то понизь еще частоту памяти (~)
3) можно попробовать прогреть пайку (плата) , строительным феном (Термовоздуходувки) , перед процедурой не забыть снять с карты радиатор .
проверь еще в режиме CUDA