$AB$ را حساب میکنیم.
$A\times B=\left[ \begin{matrix} \begin{matrix} 4 & a+1 \\ \end{matrix} \\ \begin{matrix} b-1 & -1 \\ \end{matrix} \\ \end{matrix} \right]\left[ \begin{matrix} \begin{matrix} 1 & -2 \\ \end{matrix} \\ \begin{matrix} 3 & 2 \\ \end{matrix} \\ \end{matrix} \right]=\left[ \begin{matrix} \begin{matrix} 4+3(a+1) & -8+2(a+1) \\ \end{matrix} \\ \begin{matrix} b-1-3 & -2(b-1)-2 \\ \end{matrix} \\ \end{matrix} \right]$
چون ماتریس $AB$ قطری است، پس درایههای غیر از قطر اصلی صفر هستند.
$\left\{ \begin{matrix} -8+2(a+1)=0\Rightarrow a+1=4\Rightarrow a=3 \\ b-1-3=0\Rightarrow b=4 \\ \end{matrix} \right.\Rightarrow ab=12$