Решим систему методом деления. Заметим, что под корнями стоят x и y, значит требуется x >= 0 и y >= 0. Сделаем замену удобными переменными:

1. Положим u = √x, v = √y. Тогда x = u^2, y = v^2 (и u >= 0, v >= 0).
2. Подставим в систему:
   • x√y + y√x = u^2 v + v^2 u = u v (u + v) = 6.
   • x^2 y + y^2 x = u^4 v^2 + v^4 u^2 = u^2 v^2 (u^2 + v^2) = 20.
3. Обозначим p = u v и s = u + v. Тогда из первого уравнения p s = 6.
4. Во втором уравнении используем u^2 + v^2 = s^2 - 2p. Получаем:
   • p^2 (u^2 + v^2) = 20 → p^2 (s^2 - 2p) = 20.
   • Так как s = 6 / p, подставим: p^2 ((6/p)^2 - 2p) = 20 → p^2 (36/p^2 - 2p) = 20.
   • Упростим: 36 - 2 p^3 = 20 → 2 p^3 = 16 → p^3 = 8 → p = 2 (так как p >= 0).
5. Тогда s = 6 / p = 3. Значит u + v = 3 и u v = 2. Корни u и v — решения квадратного уравнения t^2 - s t + p = 0, т.е. t^2 - 3 t + 2 = 0, откуда t = 1 или t = 2.
6. Следовательно пары (u,v) равны (1,2) или (2,1). Возвращаемся к x и y: x = u^2, y = v^2, получаем два решения:
   • x = 1, y = 4;
   • x = 4, y = 1.
7. Проверка: для (1,4) и (4,1) обе формулы системы выполняются (1*2 + 4*1 = 6 и 1^2*4 + 4^2*1 = 20 и аналогично для перестановки).

Ответ: (x,y) = (1,4) и (x,y) = (4,1).