Надо было заменить первую. Но даже в таком варианте у меня все отрабатывает
Если первый вариант отрабатывал, значит версия повершел соответствует. Попробуйте на всякий случай так:
Код:

$imagelink = (get-content imagelink.txt) -match '.'
get-content new.txt | foreach {
$imagelink = $imagelink -replace ".+/$([regex]::escape(([uri] $_).segments[$_.segments.count - 1]))", $_
}
set-content imagelink.txt $imagelink