В mkvmerge GUI на вкладке Input files кнопарь add. Им и добавляй аудио и видео.
Или если ты так жаждешь поработать в Virtual Dub сделай текстовый файл. Пустой. Переименуй у него расширение на AVS.
Назови его как хотишь.
Ну, вот конкретика: Star Wars - Episode 1. The Phantom Manace.avs
Открой его на редактирование и напиши текст вида:
DirectShowSource("E:\Films\NEW\New\Star Wars - Episode 1. The Phantom Manace.mp4")
Естесственно, вставь вместо имени и пути что ты тама хотел кодить (какой файл у тебя).
И открывай получившийся файл AVS в Virtual Dub.
А вообще в таких случаях рекомендуют RTFM
Расшифровать аббревиатуру?
Удачи.