[Deniskach]

for (n=j; n<=3; n++) //откуда взялась константа 3?
3 взялась из старого кода {int nn=3 раньше почему то было так и без i, j. Видимо я не доглядел
//Переобразования над матрицей А:
for (n=0; n<nn; n++) //ненужный левый код
-- Эту строку я удалил.
Еще раз спасибо, особенно mrcnn!!!!!!