1. Попробуй ffdshow (обязательно!)
http://sourceforge.net/project/showf...group_id=53761
Меняй в нем настройки Пуск->ffdshow->Configuration->Output->Use overlay mixer - на моей старой карте только так оверлей заработал, никакой xvid-divx не помогал.
2. Обнови драйвера для видеокарты (кстати, скорее всего в них и дело, читал о таком с картами nvidia)
А то, что вы сделали, так это отключили overlay совсем. Видео теперь рисуется программно, через GDI (для DVD вроде бы такое недопустимо, тем более если карта слабая, тормозить будет).