(2-3x)^2+(1+4x)^2=(5x-1)(5x+1)=>
4-9x^2+1+16x^2=5x^2-1=>
6+7x^2=5x^2=>
2x^2=-6
где ошибка?

(2-3*x)^2+(1+4*x)^2 = (5*x-1)*(5*x+1)

25x^2 -4x + 5 = 25x^2-1 = 25x^2-1

Упрощаем:
-4x=-6

Сокращаем:
-2*2x=-2*3

Решаем уравнение:
2x=3

Дискриминант:

D = b^2-4ac = (-4)^2=16
Корни:
x1,2 = (-+(корень(16))+(4))/0

Возможные решения:
3/2;
Ответ: (Решение уравнения с учётом ОДЗ )
x=3/2

Ошибка во второй строке. Ты не правильно раскрыл скобки и в конце не правильно собрал скобки.
(2-3х)^2+(1+4x)^2=(5x-1)(5x+1)
4-9x^2-12x+1+16x^2+8x=25x^2-1
7x^2-4x+5=25x^2-1
-18x^2-4x+6=0
Дальше находишь дискриминант, если тебе нужны корни уравнения.