Если провести из центра полуокружности радиусы, то они будут перпендикулярны катетам (т. к. катеты - касательные к окружности).
Получится квадрат со стороной r и два прямоугольных треугольника с гипотенузами 3 и 4. В этих треугольниках один катет тоже равен r, а второй можно вычислить по теореме пифагора.
Дальше пишем теорему пифагора для большого треугольника, упрощаем и получается уравнение
корень (16-r^2) + корень (9-r^2) = 12
А вот как его решать, я уже не помню. Но думаю, что оно решаемо)