Подскажите, где я ошибся в задаче

Все вы сделали правильно.

Избавляемся от дроби, умножив каждый член уравнения на:

60*Х*(180 - Х)

Получаем:

1944000 - 10800Х - 10800Х -4860Х + 27Х² = 0

27Х² - 26460Х + 1944000 = 0

Разделим все члены уравнения на 27, получаем:

Х² - 980Х + 72000 = 0

Решаем это квадратное уравнение:

Находим дискриминант:

D = 980² - 4*72000 = 672400

√D = 820

Х₁ = (980 - 820)/2 = 80

Х₂ = (980 + 820)/2 = 900 (не подходит по условию)

У = 180 - Х = 180 - 80 = 100

Значит скорости автомобилей равны 80 и 100 км/час. А какой из них первый, а какой второй, решайте сами.