[zas]

VirtualDub работает только с декодерами, которые выдают видео поток через Video for Windows (VFW), если этот avi нормально проигрывается в каком-нибудь плеером значит, у вас установлен только декодер, который работает через DirectShow. Если декодер для VFW найти не удастся, можно попробовать открыть этот файл через AviSynth при помощи команды DirectShowSource подробное описание параметров которой есть в документации.