Notons $D=\mathbb R^2\backslash\{(0,0)\}.$ On remarque d'abord que la fonction $f$ est de classe $C^1$ sur $D$, puisque
- $(x,y)\mapsto \frac1{\sqrt{x^2+y^2}}$ est de classe $\mathcal C^1$ sur $D$ (par composition)
- $t\mapsto \sin(t)$ est $\mathcal C^1$ sur $\mathbb R.$
Pour prouver que $f$ est différentiable en $(0,0),$ on va d'abord deviner l'expression de la différentielle. Pour cela, on remarque que
$$\frac{f(x,0)-f(0,0)}{x}=x\sin\left(\frac1{|x|}\right)\to 0$$
car
$$\left |x\sin\left(\frac1{|x|}\right)\right|\leq |x|$$
et on peut appliquer le théorème des gendarmes.
Ainsi, $f$ admet une dérivée partielle par rapport à la première variable en $(0,0)$ qui vaut $\frac{\partial f}{\partial x}(0,0)=0.$ Par symétrie, $f$ admet une dérivée partielle par rapport à la seconde variable en $(0,0)$ qui vaut $\frac{\partial f}{\partial y}(0,0)=0.$ Ainsi, la différentielle de $f$ en $(0,0),$ si elle existe, est définie par $\ell(h_1,h_2)=0.$
Posons, pour $(h_1,h_2)\neq (0,0),$
$$\Delta(h_1,h_2)=\frac{f(h_1,h_2)-f(0,0)-\ell(h_1,h_2)}{\sqrt{h_1^2+h_2^2}}
=\sqrt{h_1^2+h_2^2}\sin\left(\frac1{h_1^2+h_2^2}\right).$$
Il s'agit de prouver que $\Delta(h_1,h_2)$ tend vers $0$ lorsque $(h_1,h_2)$ tend vers $(0,0)$.
Mais comme précédemment, on a
$$|\Delta(h_1,h_2)|\leq \sqrt{h_1^2+h_2^2}$$
et ceci tend bien vers $0$ si $(h_1,h_2)$ tend vers $(0,0)$.
Pour prouver que $f$ n'est pas de classe $\mathcal C^1$ sur $\mathbb R^2,$ on va prouver que $\frac{\partial f}{\partial x}$ n'est pas continue en $(0,0)$. Pour cela, on remarque que, pour $(x,y)\neq (0,0),$ on a
$$\frac{\partial f}{\partial x}(x,y)=2x\sin\left(\frac1{\sqrt{x^2+y^2}}\right)-\frac{x}{\sqrt{x^2+y^2}}\cos\left(\frac1{\sqrt{x^2+y^2}}\right).$$
En particulier, pour $t>0$,
$$\frac{\partial f}{\partial x}(t,0)=2t\sin\left(\frac 1t\right)-\cos\left(\frac 1t\right).$$
Puisque $t\mapsto t\sin\left(\frac 1t\right)$ tend vers $0$ lorsque $t$ tend vers $0$ et que $t\mapsto \cos\left(\frac 1t\right)$ n'admet pas de limite lorsque $t$ tend vers $0$ (considérer par exemple les suites $t_n=1/2n\pi$ et $t_n=1/(2n\pi+\pi/2)$), on en déduit que $\frac{\partial f}{\partial x}(x,y)$ n'admet pas de limite lorsque $(x,y)$ tend vers $(0,0)$. Finalement, $f$ n'est pas de classe $\mathcal C^1$ sur $\mathbb R^2.$
