Produtos notáveis e fatoração - Dúvida

Como eu sei que no final eu tenho que subtrair os valores?