Помогите решить систему уравнений

x=5-y
(3*(5-y)-y)2=12-3*(5-y)+y
(15-3y-y)2=12-15+3y+y
(15-4y)2=-3+4y
225-120y+16y2=-3+4y
16y2-124y+228=0
x=(-b+-√D)/2a, D=b2-4ac=15376-14592=784
x1=(124+28)/32=152/32=4,75
x2=(124-28)/32=96/32=3
y1=5-4,75=0,25
y2=5-3=2

Выразить у через х, т. е.
у = 5 - х
И подставить в первое уравнение, т. е. заменить все игреки на (5-х). Не забыв про то, что перед игреком в первой части первого уравнения стоит минус.
Можно и наоборот, х выразить через у. Но тогда придется при подстановке умножать на три.

Из второго уравнения y=5-x, тогда
(3x-(5-x))^2=12-3x+(5-x)
(4x-5)^2=12-4x+5
16x^2-40x+25+4x-17=0
16x^2-36x+8=0
4x^2-9x+2=0
D=81-32=49
x1=2
x2=0,25
Отсюда
y1=5-2=3
y2=5-0,25=4,75