Введём новую переменную t. Пусть t = x² - 2x - 5
t² - 2t = 3
t² - 2t - 3 = 0
Решаем по теореме, обратной теореме Виета
{t1 + t2 = 2
{t1 * t2 = -3
t1 = -1
t2 = 3
x² - 2x - 5 = -1, или x² - 2x - 5 = 3
1) x² - 2x - 5 = -1
x² - 2x - 4 = 0
Решаем через дискриминант
D = b² - 4ac = (-2)² - 4 * (-4) = 20
x1 = (-b - √D) / (2a) = (2 - √20) / 2 = (2 - 2√5) / 2 = 1 - √5
x2 = (-b +√D) / (2a) = (2 + √20) / 2 = 1 + √5
2) x² - 2x - 5 = 3
x² - 2x - 8 = 0
{x1 + x2 = 2
{x1 * x2 = -8
x1 = -2
x2 = 4
Ответ:
x1 = 1 - √5
x2 = 1 + √5
x3 = -2
x4 = 4