[HolyDel]

double gh[512][512]; - превысил размер стека. создавай массив в куче
double *gh = new double[512*512];