[RaW]

Custom Matrices, это не то, это матрицы для квантов.
А быстрые настройки - 2 прохода с турбой, partition decision 5, referen 3-5, hexagonal search, deblockoing -2 -2, все галочки ставь, можешь кроме adaptive q и pyramid и при битрейте в 1300-1500 получится отлично.
В зависимости от проца, у меня за часов 2 первый проход и второй 5-6 часов весь фильм кодится.