Это оффтоп, но:
RegDLL file.dll ищет и вызывает в file.dll функцию DLLRegisterServer
Если функция регистрации называется по другому, используется entrypoint_name. Это всего лишь имя функции регистрации библиотеки в системе, и никак не свзянно с именем раздела или чем то таким.
Код:
RegDLL $INSTDIR\foo.dll MyRegFunc
я полагаю так надо это вызывать