Объявляемый override метод должен иметь то же возвращаемое данное и параметры, как и объявляемый асбтрактный метод у отцовского класса.
Поменяй метод в классе RectMatrix на:
public override Matrix Sum(Matrix A, Matrix B )
Затем тебе нужны будут кастинги в этом методе из Matrix в RectMatrix.
И далее делай тоже кастинг:
Cmatrix = (RectMatrix)Cmatrix.Sum(Amatrix, Bmatrix);
Да и на заметку, код ужасный. И старайся использовать одной размерности массивы чем вложенные, так будет в разы быстрее инициализация.