Решить подстановкой
{xy=4
{Y=x+1

Решение
{xy=4
{Y=x+1

x*(x+1) =4
x^2 + x - 4 = 0
D = 1 + 4*1*4 = 17
x1 = (-1 - √17)/2
x2 = (-1 + √17)/2
y1 =  (-1 - √17)/2 + 1
y2 =  (-1 + √17)/2 + 1
Ответ: ( (-1 - √17)/2; (-1 - √17)/2 + 1));  ((-1 + √17)/2;  (-1 + √17)/2 + 1)).