алгоритм решения любой задачи:
1. формализация постановки
2. выбор метода решения
3. решение
xNiSSaNx, озвучь 1 (какой критерий выбрал, ограничения) и 2 (известное в мире название метода), и оберни тегами "code" 3, а то не понятно
Например:
1. найти N максимально похожих подблока 2x2 двух матриц размерами не менее 2x2
критерий похожести - попарная корреляция
http://ru.wikipedia.org/wiki/%D0%9A%...86%D0%B8%D1%8F
2. вычислить корреляционную функцию R двух матриц с окном 2x2
отсортировать координаты матриц по убыванию R, вывести первые N элементов с указанием значения.
3...
Если останутся силы, варианты усложнения:
* использовать гладкое окно (
http://ru.wikipedia.org/wiki/%CE%EA%...D4%F3%F0%FC%E5, читать про оконные функции)
* использовать БПФ для ускорения вычислений на больших матрицах