Техническое решение, я обычно такие не выкладываю, но эта задача тут столько раз встречалась...
Основания a и b, искомая линия m, расстояние от a до b (высота трапеции) H, расстояние от a до m - h;
(a + m)*h/2 = (1/2)*(a+b)*H/2;
(b + m)*(H - h)/2 = (1/2)*(a + b)*H/2;
h = H*(a + b)/(2*(a + m));
(b + m)*H*(1 - (a + b)/(2*(a + m))) = (a + b)*H/2;
(b + m)*(a + m - (a + b)/2) = (a + b)*(a + m)/2;
(b + m)*(a + m) = (a + b)*(a + b + 2*m)/2 = m*(a + b) + (a + b)^2/2;
m^2 + m*(a + b) + a*b = m*(a + b) + (a + b)^2/2;
m^2 = (a^2 + b^2)/2;
это ответ, ну корень извлечь легко, если что... У результата есть смешной геометрический смысл - площадь квадрата со стороной m равна полусумме площадей квадратов со сторонами a и b.