[Misha hm]

пробЫвал через virtualdub с null transform без сжатия »

всмысле, вы при режиме DirectStreamCopy (без пересжатия) смогли добавить какой-то фильтр? Это невозможно. Любой фильтр требует перекодирования.
Поправьте, если не прав.