Решение:
5^(x^2-7x+11)=5^-1
x^2-7x+11=-1
x^2-7x+11+1=0
x^2-7x+12=0 - это приведённое квадратное уравнение, решаем по упрощённому нахождению корней уравнения.
x1,2=7/2+-√(49/4-12)=7/2+-√(49/4-48/4)=7/2+-√1/4=7/2+-1/2
х1=7/2+1/2=8/2=4
х2=7/2-1/2=6/2=3
Ответ: х1=4; х2=3