При каком значении к векторы a+3b и b-ka ортогональны?
а {1;2}, b {-1;1}

Векторы перпендикулярны, если их скалярное произведение равно 0. Вычисляем координаты векторов.
а+3b={1;2}+{-3;3}={-2;5}.
b-ka ={-1;1}+{-k;-2k}={-1-k;1-2k}.
 Находим скалярное произведение: -2*(-1-к)+5*(1-2к)=2+2к+5-10к=7-8к.
Это должно быть равно 0.
7-8к=0
к= 7/8.