[Beyound]

вы про ортогональное преобразование? или про что? просто непонятно что имеется в виду конкретно.

[lxa85]

В заспанную голову приходят мысли о машинной графике, заливке треугольника градиентом.
Откуда, куда градиент? Геометрия там в принципе достаточно простая, возьмите лист бумаги и карандаш, не торопясь нарисуйте координаты. Я думаю вы просто чуть-чуть запутались и закрутились.

[Tonny_Bennet]

Всё сделал просто забыл отписаться:

screen[i,j] = F(j * (b-a)/ w, i * (m-n) / h)

Где:
i,j - экранные координаты
screen[i,j] - значение функции в экранных координатах
F - непрерывная функция

P.S. Результат