x (см) - сторона 1-ого квадрата
х+3 (см) - сторона 2-ого квадрата
х² - площадь 1-ого квадрата
(х+3)² - площадь 2-ого квадрата
х²+(х+3)²=317
х²+х²+6х+9-317=0
2х²+6х-308=0
х²+3х-154=0
Д=9+4*154=9+616=625=25²
Х₁=(-3-25)/2=-28/2=-14 - не подходит по смыслу задачи
х₂=(-3+25)/2=22/2=11 (см) - сторона 1-ого квадрата
х+3=11+3=14 (см) - сторона 2-ого квадрата
Ответ: 11 см и 14 см.