$D=R-\left\{ 2 \right\}$
چون تابع كسری است مخرج آن بايد فقط يک ريشه داشته باشد. با توجه به اينكه مخرج از نوع تابع درجهٔ دوم است بايد در $x=2$ ريشهٔ مضاعف داشته باشد، به عبارتی به صورت ${{(x-2)}^{2}}$ باشد:
${{(x-2)}^{2}}={{x}^{2}}-ax+2+b$
${{x}^{2}}-4x+4={{x}^{2}}-ax+(2+b)\Rightarrow a=4,2+b=4\Rightarrow b=2$
$\Rightarrow {{a}^{2}}+{{b}^{2}}-ab={{4}^{2}}+{{2}^{2}}-(4)\times (2)=16+4-8=12$