Bài toán: Cho hai dãy số $(x_n)$ và $(y_n)$ xác định bởi:  $$\begin{cases}x_1=-1; y_1=1\\x_{n+1}=-3x_n^2-2x_ny_n+8y_n^2\\y_{n+1}=2x_n^2+3x_ny_n-2y_n^2\end{cases}$$
 Xác định tất cả các số nguyên tố $p$ sao cho $x_p+y_p$ không chia hết cho $p$

Lời giải:
       Từ công thức truy hồi của hai dãy $(x_n);(y_n)$, dễ thấy rằng: $${x_n} + 2{y_n} = {\left( {{x_{n - 1}} + 2{y_{n - 1}}} \right)^2} = ... = {\left( {{x_1} + 2{y_1}} \right)^{{2^{n - 1}}}} = 1\,\,\,\,\,\,\,\left( 1 \right)$$ Ta có: $${y_{n + 1}} = \left( {2{x_n} - {y_n}} \right)\left( {{x_n} + 2{y_n}} \right)$$ .  Giả sử tồn tại số tự nhiên $k$ sao cho $$2{x_k} = {y_k} \Rightarrow {y_{k + 1}} = 0$$  Khi đó:   $$\begin{cases} x_{k+2}=-3x_{k+1}^2\\x_{k+2}=1\end{cases},\text{ vô lí}$$  
Vậy $${y_{n + 1}} = \left( {2{x_n} - {y_n}} \right)\left( {{x_n} + 2{y_n}} \right) \ne 0\,\,\,\forall n$$  Suy ra: $$\dfrac{{{x_{n + 1}}}}{{{y_{n + 1}}}} = - \dfrac{{\left( {3{x_n} - 4{y_n}} \right)\left( {{x_n} + 2{y_n}} \right)}}{{\left( {2{x_n} - {y_n}} \right)\left( {{x_n} + 2{y_n}} \right)}} = \dfrac{{4{y_n} - 3{x_n}}}{{2{x_n} - {y_n}}}$$  Đặt: $${u_{n + 1}} = \dfrac{{{x_{n + 1}}}}{{{y_{n + 1}}}} \Rightarrow {u_1} = - 1,\,\,{u_{n + 1}} = \dfrac{{4 - 3{u_n}}}{{2{u_n} - 1}} \Rightarrow {u_{n + 1}} + 2 = \dfrac{{{u_n} + 2}}{{2{u_n} - 1}} \Rightarrow \dfrac{1}{{{u_{n + 1}} + 2}} = 2 - \dfrac{5}{{{u_n} + 2}}$$  Đặt: ${v_n} = \dfrac{1}{{{u_n} + 2}} \Rightarrow {v_{n + 1}} = 2 - 5{v_n}$. Từ đây dễ dàng tìm được CTTQ của $(v_n)$:
$${v_n} = \dfrac{{1 + 2{{\left( { - 5} \right)}^{n - 1}}}}{3} \Rightarrow \dfrac{1}{{{u_n} + 2}} = \dfrac{{1 + 2{{\left( { - 5} \right)}^{n - 1}}}}{3} \Rightarrow {u_n} = \dfrac{{1 - 4{{\left( { - 5} \right)}^{n - 1}}}}{{1 + 2{{\left( { - 5} \right)}^{n - 1}}}} = \dfrac{{{x_n}}}{{{y_n}}}\,\,\,\,\,\left( 2 \right)$$
 Từ $(1)$ và $(2)$ suy ra: $${x_n} = \dfrac{{1 - 4{{\left( { - 5} \right)}^{n - 1}}}}{3},\,\,{y_n} = \dfrac{{1 + 2{{\left( { - 5} \right)}^{n - 1}}}}{3} \Rightarrow {x_n} + {y_n} = \dfrac{{2 - 2{{\left( { - 5} \right)}^{n - 1}}}}{3}$$
$\bullet$   Nếu $p = 2 \Rightarrow {x_2} + {y_2} = 4\,\, \vdots \,\,2$, không thoả.
$\bullet$   Nếu $p = 3 \Rightarrow {x_3} + {y_3} = - 16$ không chia hết cho 3, suy ra $p=3$ thoả.
Tương tự thì $p=5$ cũng thoả.
Xét $p > 5 \Rightarrow {\left( { - 5} \right)^{p - 1}} \equiv 1\left( {\bmod p} \right) \Rightarrow {x_p} + {y_p} \equiv 0\left( {\bmod p} \right)$.
Vậy $p = 3$ hoặc $p=5$.