возможно, параметрами шифрования. Но это уже отдельная тема.
а доступ-то туда у программы есть? По идее, владельцем надо сделать пользователя, от имени котрого работает сервис доставки/приема почты (mailnull или кто у вас там), права как минимум,0600.
Авторизация postfix/dovecot как организована? У меня, например, exim авторизуется через сервис dovecot-а, соответственно, если dovecot кого-то там авторизовать не может, то и отправка не работает - всё пишется в логи dovecot и exim. Из PostfixAdmin письма отправляются?