Вот что получилось:
Function TriGon(X1%,Y1%,X2%,Y2%,X3%,Y3%)
Local Temp%
;Сортировка координат
If Y2<Y1 Then
*Temp%=Y1: Y1=Y2: Y2=Temp%
*Temp%=X1: X1=X2: X2=Temp%
EndIf
If Y3<Y2 Then
*Temp%=Y2: Y2=Y3: Y3=Temp%
*Temp%=X2: X2=X3: X3=Temp%
EndIf
If Y2<Y1 Then
*Temp%=Y1: Y1=Y2: Y2=Temp%
*Temp%=X1: X1=X2: X2=Temp%
EndIf
*
K1#=Float(x2-x1)/Float(y2-y1)
B1#=-y1*K1+X1
K2#=Float(x3-x1)/Float(y3-y1)
B2#=-y1*K2+X1
For Y=Y1 To Y2
*Line(Y*K2+B2,Y,Y*K1+B1,Y)
Next
K1#=Float(x2-x3)/Float(y2-y3)
B1#=-y3*K1+X3
For Y=Y2+1 To Y3
*Line(Y*K2+B2,Y,Y*K1+B1,Y)
Next
End Function
Незнаю на чей алгоритм этот похож, но вроде работает.
2jimon спасибо что направил в нужную сторону