(3*(2m-5n)-4*(-3m+4n))*(2*(2m-5n)+3*(-3m+4n))

m и n - вектора, их модули равны:
| m | = 2, | n | = 4,
угол между ними равен

(6m-15n+12m-16n)*(4m-10n-9m+12n)=(18m-31n)*(-5m+2n)=
=-90m²+36mn+155mn-62n²=-90m²+191mn-62n²=
=-90*4+191*2*4*(-1/2)-62*16=-360-764-992=-2116