В треугольнике ABC AB=13 см, BC=8см. Может ли sin(A) = 2/3

Нет, не может. Пусть h - длина высоты, опущенной из точки B на сторону AC. Тогда  h≤8 (так как катет всегда короче гипотенузы). Тогда
sin A=h/13≤ 8/13<2/3. Т.е. синус А всегда строго меньше 2/3, значит он не может быть равен 2/3.