[Oleg Krylov]

В соединителе на отправку ответом на HELO/EHLO стоит mail.domain.com. »

Корень зла здесь
TMG для отказоустойчивости лучше собрать в NLB-массив. Имхо.
PTR-запись, или запись в обратной зоне.
Логика ее использования:
При установлении SMTP-сессии сервер отправляет команду helo\ehlo, представляесь тем FQDN, который прописан в коннекторе отправки. Т.е. в вашем случае mail.domain.com. Следовательно, каждый IP-адрес должен иметь запись в зоне in-arpa что он, это mail.domain.com. Два провайдера - для каждого прова есть своя зона обратных записей, PTR-запись должна быть на каждый адрес, который попадает в SMTP-пакет, как Source. Да. И каждому из пяти доменов пофиг, что отправляющий сервер представляется, как mail.domain.com.

5 mail.<домен> (первый ip основного провайдера, первый TMG) 10 mail2.<домен> (второй ip основного провайдера, второй TMG) 15 mail3.<домен> (первый ip резервного провайдера, первый TMG) 20 mail4.<домен> (второй ip резервного провайдера, второй TMG) »

В принципе неплохо. НО! Я бы сделал на каждом провайдере DNS RR. У каждого провайдера - две МХ-записи с одинаковым приоритетом, по одной на каждый TMG (но заострю внимание - WNLB, имхо опять же, лучше).

1) Правильно ли я начал делать, и если неправильно, то как сделать правильно? »

Правильно, рассмотрите варианты с NLB и DNS RR.

2) Как мне прописать PTR-запись у провайдера, если она возможна только одна для одного ip-адреса, обеспечив требования к бесперебойности работы и успешного прохождения проверки на обратный DNS? Доменов-то у меня пять, и прописать несколько PTR-записей разных доменов к одному IP невозможно. »

Одну на каждый IP, с которого почта будет уходить. Все PTR-записи должны указывать на FQDN, прописанный в свойствах Send Connector.
Для более корректной работы со спам-фильтрами, рекомендую создать так же записи SPF (Sender Policy Framework). Вот тут есть вполне себе мастер по созданию этих записей: http://www.microsoft.com/mscorp/safe...nderid/wizard/
Удачи, коллега Будут вопросы - welcome!