Bài toán.
Cho hai dãy $(x_{n}),\,(y_{n}):$$$\left\{\begin{matrix}
x_{1}=-1,y_{1}=1\\x_{n+1}=-3x_{n}^{2}-2x_{n}y_{n}+8y_{n}^{2}
\\y_{n+1}=2x_{n}^{2}+3x_{n}y_{n}-2y_{n}^{2}

\end{matrix}\right.\;\;\forall n\geq 1$$
Tìm tất cả các số nguyên tố $p$ sao cho $x_{p}+y_{p}$ không chia hết cho $p$

Lời giải.
Ta có $$x_{n}+2y_{n}=-3x_{n-1}^{2}-2x_{n-1}y_{n-1}+8y_{n-1}^{2}+2\left (  -2x_{n-1}^{2}+3x_{n-1}y_{n-1}-2y_{n-1}^{2}\right )$$$$\Rightarrow x_{n}+2y_{n}=\left ( x_{n-1}+2y_{n-1} \right )^{2}=\left ( x_{1}+2y_{1} \right )^{2(n-1)}=1,\;\forall n\geq 1$$Lại có $$x_{n}-y_{n}=-3x_{n-1}^{2}-2x_{n-1}y_{n-1}+8y_{n-1}^{2} -\left ( 2x_{n-1}^{2}+3x_{n-1}y_{n-1}-2y_{n-1}^{2}  \right )$$$$\Rightarrow x_{n}-y_{n}=-5(x_{n-1}+2y_{n-1})(x_{n-1}-y_{n-1})=-5(x_{n-1}-y_{n-1})$$$$\Rightarrow x_{n}-y_{n}=(-5)^{n-1}(x_{1}-y_{1})=-2.(-5)^{n-1}$$Do đó$$x_{n}+y_{n}=\frac{x_{n}-y_{n}+2(x_{n}+2y_{n})}{3}=\frac{-2.(-5)^{n-1}+2}{3}$$Xét $p>5$. Khi đó $$x_{p}+y_{p}=\frac{-2.5^{p-1}+2}{3}$$ Theo định lý Fermat nhỏ ta được $$5^{p-1}\equiv 1\left ( mod\;p \right )\Rightarrow 2-2.5^{p-1}\equiv 0\left ( mod\;p \right )$$ Dẫn đến  $x_{p}+y_{p}$ chia hết cho $p$  (do $(p,3)=1$)

Nếu $p=2$ thì $x_{2}+y_{2}=4\Rightarrow \left.\begin{matrix}
2
\end{matrix}\right|x_{2}+y_{2}$

Nếu $p=3$ thì $x_{3}+y_{3}=-16\Rightarrow x_{3}+y_{3}\equiv 2\left ( mod\;3 \right )$

Nếu $p=5$ thì $x_{5}+y_{5}=-416\Rightarrow x_{5}+y_{5}\equiv 4\left ( mod\;5 \right )$

Vậy $p=3,5$ thỏa yêu cầu đề bài.