1. Строка, заключенная в одинарные кавычки, является подробной строкой. Строка передается в команду точно так же, как она вводится. Подстановка не выполняется.
2. Даже если не одинарные кавычки, то .jpg в $randomname1.jpg будет вопспринято не как окончание имени переменной, и не как подстановка после вывода оной, а как параметр, в котором что-то вроде как может быть записано (это пошик, в нем почти все - объект, из которого можно надергать параметров).
3. выводить строку ради того чтобы передеать ее as is в out-file, конечно, можно, но зачем если есть add-content?
пробуй так, если я правильно понял суть желаемого:
Код:

$result = 'magick "' + $randomname1 + '.jpg" "' + $randomname2 + '.jpg" -set option:ww "%%[fx:max(u.w,v.w)]" -set option:hh "%%[fx:max(u.h,v.h)]" -resize "%%[ww]x%%[hh]" -background white -gravity center +append -quality 100 out.jpg'
Add-Content -path ./test.txt -Value $result
ну и да, совсем забыл
4. Зачем пошиком делать батник??? не верю что задача не решается целиком в пошике.