Функция y = 5^x - функция возрастающая. Значит, большему значению аргумента соответствует большее значение функции. Теперь рассуждаем так: замечаем, что у параболы -3x^2 + 18x - 24 ветви направлены вниз. Значит, наибольшее значение функции будет достигаться в вершине параболы. Найдём абсциссу x0 вершины:
x0 = -b/2a = -18/(-6) = 3
y0 = -3 * 9 + 18 * 3 - 24 = -27 + 54 - 24 = 3
В силу возрастания исходной функции получаем, что y(наиб) = 5^3 = 125