[DJ Mogarych]

Качество видео от уменьшения значения квантайзера хуже стать не может. Чем меньше квантайзер, тем лучше качество, и соответственно, больше размер выходного файла.
Насчёт размера файла -- есть специальные калькуляторы битрейта. Например, в кодек XviD такой калькулятор вообще встроен.