[FunTime]

Либо просто выгрузить на диск заранее скомпилированную программу, выводящую в консоли "Hello, world!"

Можно и так. Каким образом это реализовать?
.exe файл, при запуске которого создастся ещё один .exe файл, который уже будет выводить как же "Hello, world!"?