Идея. Угол между лучами нужен через скалярное произведение единичных векторов, а угол с перпендикуляром к плоскости — через их третью координату. Помещаем плоскость AOB в координатную плоскость, тогда OH становится осью z и искомый косинус равен z-координате единичного вектора вдоль OC.
1Единичный вектор вдоль луча — всё, что нужно: скалярное произведение двух единичных векторов равно косинусу угла между лучами. Известны три таких произведения: 22, 22 и 21.
2Располагаем OA вдоль оси x и плоскость AOB — в плоскости Oxy (это можно, три оси выбираем сами). Тогда a(1;0;0), b(22;22;0), а OH — ось z.
3Для c(x;y;z): из ac=21 следует x=21; из bc=22 — 22(x+y)=22, откуда y=21. Длина cравна 1 — отсюда z2=21.
4Орт оси z — k(0;0;1); kc=z=22 — это и есть cosφ. Знак z мог быть любым: угол между прямыми берётся с модулем, и ответ один — 45∘.
Частая ошибка. Не принимайте данный в условии угол 45∘ за ответ: он между лучами OB и OC (и между OA и OB), а ответ — угол OC с перпендикуляром OH; совпадение значений получилось только из вычислений.