Алекс, объясни ему что --subme 1 только для первого прохода, 2-й должен быть как минимум --subme 5 --analyse all, а лучше если есть время --6 --7. А то он вернётся к своему advanced MPEG-2

. (шутка)
Ведь столько раз ввели речь об настройках.....
Я бы посоветовал
x264 harry.avs -o x364b_2.mp4 --pass 2 --ref 8 --bframes 3 --filter -1,-1 --subme 7
(или --subme 6) --b-rdo --weightb --trellis 1 --analyse all --8x8dct --qcomp 0.75 --progress --no-psnr