drunnik, гаф, иди в институт и долби голову профессорам
Для 2Д, я бы разбил всё на треугольники (нада сам алгоритм написать), не совсем сложно, к примеру берём произвольную точку, далее, смотрим левую присоединённую отрезком и правую, если между этими точками не проходит линия, тогда один треугольник есть, далее незабываем помечать вершины полностью просчитанными, чтобы потом проверить все ли вершины уже просчитаны. При создании виртуального треугольника, незабываем создовать виртуальную линию меж 2 прилегающих вершин, чтобы её включать в проверку на перемечения тоже, это чтобы не произошло налиганий треугольников.
Таким образом перелистываешь все вершины, и творишь с ними подобное, и не забывай, виртуальные линии - тоже уже могу связывать с вершиной другую точку, к которой они проведены. Таким алгоритмом вся Любой формы фигура, с n колличеством вершин поделится на треугольники - а дальше считай их площади, и сумируй.