$$-3ab(a^{3}b+a^{2}b^{2}-ab)$$
$-3\left(a^{2}+ab-1\right)\left(ab\right)^{2}$
$3\left(ab\right)^{2}-3\left(ab\right)^{3}-3b^{2}a^{4}$