Проблему решил следующим образом:
1. Определил 2 параметра (должны быть по умолчанию, но на всякий случай прописал отдельно0
Opt("PixelCoordMode",1)
Opt("MouseCoordMode",1)
2. Пронормировал координаты, которые выдает PixelSearch с координатами, которые выдает MouseGetPos
В моем случае
MouseGetPos/PixelSearch ~0,39