У x264 проблема в кодировании слабых изменений света и цвета - эффектов тумана, дыма и пр., кстати фильм Хозяин морей, на краю земли ими просто кишит

, а про быстрые сцены очень даже странно - у меня наоборот х264 давал динамику лучше VP7. Правда я VP7 тестил давненько - может в финальной версии уже получше кодирует. Но у VP кодеков есть тоже хитрость - они в сложных сценах с быстрым движением как бы уменьшают разрешение кадра (или части кадра) в 1.5-2 раза даже если Spatial Resampling выключен а потом это дело удачно замыливают постпроцессингом. Это заметно если сравнить полученное с оригиналом - где в динамике чёткость была нормальная.