Tìm tất cả các hàm số f:\mathbb{R}\to\mathbb{R} thỏa mãn: f(x^2)=f(y).f(2x-y)+(y-x)^2,\forall x, y \in\mathbb{R}\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;(*)
Lời giải: Trong (*) cho x=y ta được: f(x^2)=f^2(x),\forall x\in\mathbb{R}\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;(1)
Trong (1) lấy x=0 ta được f(0)=0\vee f(0)=1.
Trường hợp 1: f(0)=0, trong (*) cho y=0 ta được: \begin{aligned}&\;\;\;\;f(x^2)=x^2\\&\Leftrightarrow f^2(x)=x^2, \forall x\in\mathbb{R}\end{aligned}
Từ đây suy ra f(x)=x hoặc f(x)=-x. Thử lại ta thấy chỉ có hàm số f(x)=x,\forall x\in\mathbb{R} thỏa mãn bài toán.
Trường hợp 2: f(0)=1, trong (*) cho y=0, ta được: f(x^2)=f(2x)+x^2,\forall x\in\mathbb{R}\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;(2)
Trong (*) thay y bởi x-y ta được: f(x^2)=f(x-y)f(x+y)+y^2,\forall x,y\in\mathbb{R}\;\;\;\;\;\;\;\;\;\;\;\;\;(3)
Kết hợp (2) và (3) ta được: f(2x)+x^2=f(x+y).f(x-y)+y^2,\forall x, y\in\mathbb{R}
Đặt a=x+y,\;b=x-y, \;a,b\in\mathbb{R} ta được: f(a+b)+ab=f(a).f(b),\forall a,b\in\mathbb{R}\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;(4)
Trong (*), ta thay y bởi b, 2x-y bởi a, ta được: f\left(\dfrac{(a+b)^2}{4}\right)=f(a).f(b)-\dfrac{(a-b)^2}{4},\forall a, b\in\mathbb{R}\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;(5)
Kết hợp (4) và (5) ta được: \begin{aligned}&\;\;\;f(a+b)+ab=f\left(\dfrac{(a+b)^2}{4}\right)-\dfrac{(a-b)^2}{4},\forall a, b\in\mathbb{R}\\&\Leftrightarrow 4f(a+b)=4f\left(\dfrac{(a+b)^2}{4}\right)-(a+b)^2,\forall a,b\in\mathbb{R}\;\;\;\;\;\;\;\;\;(6)\end{aligned}
Trong (6) cho a+b=4 ta được -4^2=0, vô lý.
Vậy chỉ có hàm số thỏa mãn bài toán: f(x)=x,\forall x\in\mathbb{R}