Подробно расписывать не стану, скажу кратко.
Из высоты h можно найти радиус r (формулу наскоро вывел, она на рисунке)
Зная r можно вычислить координаты всех точек (x = cos(угол)*r ; y = sin(угол)*r ; углы - это 60°, 120° и т.д., т.е. все, что помечены линиями внутри фигуры)
Соответственно можно найти и твоё m. Самый тупой вариант - найти координаты двух точек (между которыми m) и вычесть одну из другой. Выведи формулу и оптимизируй её.
Всё равно настоятельно рекомендую ознакомиться:
