Идея. Радиусы сфер дают два уравнения на x=2a и h: вписанная — через биссектрису угла между апофемой и плоскостью основания, описанная — через прямоугольный треугольник на диаметре. Решаем систему — получаем два случая.
1AH — половина диагонали квадрата, то есть x2; HM=x; апофема SM — гипотенуза треугольника SHM. Центры сфер лежат на SH (задачи 426, 430).
2Центр вписанной сферы равноудалён от основания и грани SAB, поэтому лежит на биссектрисе угла SMH: по свойству биссектрисы O1H=SM+HMSH⋅HM. Приравниваем к 2, изолируем корень и возводим в квадрат. Условие h>4 нужно, чтобы правая часть x(h−2) была положительной и x2 — тоже.
3Диаметр описанной сферы, проходящий через S и лежащий на SH, образует с ребром SA прямоугольный треугольник, высота которого — AH: SA2=2R⋅SH. При этом SA2=h2+2x2.
4Подставляем x2 из первого уравнения во второе, умножаем на h−4 и приводим подобные слагаемые. Корни квадратного уравнения 6 и 8 оба больше 4 — подходят.
5Находим x2 из любого уравнения и a=2x. Подставим для проверки h=6: апофема 36+12=43, r=23+436⋅23=2, R=1236+24=5.
Проверка. Для h=8: x2=8, апофема 72=62, r=22+628⋅22=2, R=1664+16=5. Оба набора размеров удовлетворяют условию.