[Hector]

я тут немного накропал, решение не полностью (не помню как матрицы умножать ), но в целом думаю можно использовать

Код:

#include "stdafx.h"
#include "locale.h"
#include "stdio.h"

const int N=4; // порядок матрицы 3х3

int inp(int matr[N][N]) // ввод матрицы
{
	int i, j;
	for (i=1; i<=N-1; i++)
		for (j=1; j<=N-1; j++)
		{
			printf("\n[%d.%d]=",i,j);
			scanf("%d",&matr[i][j]);
		}
	return 0;
}

int out(int matr[N][N]) // вывод матрицы
{
	int i, j;
	for (i=1; i<=N-1; i++)
	{
		for (j=1; j<=N-1; j++)
			printf("%d ",matr[i][j]);
		printf("\n");
	}
	return 0;
}


int _tmain(int argc, _TCHAR* argv[])
{
	setlocale(LC_ALL, "rus"); // вывод русских символов в консоль
	int A[N][N], B[N][N], C[N][N];
	printf("Введите значения для матрицы А:\n");
	inp(A);
	printf("\nВведите значения для матрицы B:\n");
	inp(B);
	printf("\nВы ввели:\n\nМатрица А:\n");
	out(A);
	printf("\nМатрица B:\n");
	out(B);
	// выполнение задания
	// вычисление скобок
	int h, g;
	for (h=1; h<=N-1; h++)
		for (g=1; g<=N-1; g++)
			C[h][g]=2*A[h][g]+B[g][h];
	// умножение на транспонированную матрицу В
	// сюда надо добавить код для умножения матриц
	printf("\nРезультат матрица С:\n");
	out(C);
	return 0;
}

написано в MVS 2010
p. s. lxa85, жду конструктивной критики