
Nối các cặp đỉnh đối diện của lục giác lớn, ta xác định được điểm O là tâm chung của cả hai lục giác.
Lục giác đều chia thành 6 tam giác đều chung đỉnh O. Đặt A, B là hai đỉnh kề nhau của lục giác nhỏ, AB = x cm (0 < x < 10).
Tam giác AOB đều nên OA = OB = AB = x và \(\widehat{OBA} = 60^\circ\).
Kẻ \(OH \perp AB\). Theo hệ thức giữa cạnh và góc trong tam giác vuông:
\[OH = OB \cdot \sin\widehat{OBA} = x \cdot \sin 60^\circ = \frac{\sqrt{3}}{2}x \text{ (cm)}\]
Diện tích tam giác AOB:
\[S_{\Delta AOB} = \frac{OH \cdot AB}{2} = \frac{\frac{\sqrt{3}}{2}x \cdot x}{2} = \frac{x^2\sqrt{3}}{4} \text{ (cm}^2\text{)}\]
Diện tích lục giác đều nhỏ:
\[S_{\text{nhỏ}} = 6 \cdot \frac{x^2\sqrt{3}}{4} = \frac{3\sqrt{3}x^2}{2} \text{ (cm}^2\text{)}\]
Theo đề bài, diện tích lục giác nhỏ bằng hai lần diện tích mỗi hình thang nên:
\[S_{\text{hình thang}} = \frac{S_{\text{nhỏ}}}{2} = \frac{3\sqrt{3}x^2}{4} \text{ (cm}^2\text{)}\]
Tổng diện tích 6 hình thang:
\[6 \cdot \frac{3\sqrt{3}x^2}{4} = \frac{9\sqrt{3}x^2}{2} \text{ (cm}^2\text{)}\]
Diện tích lục giác đều lớn:
\[S_{\text{lớn}} = S_{\text{nhỏ}} + S_{\text{6 hình thang}} = \frac{3\sqrt{3}x^2}{2} + \frac{9\sqrt{3}x^2}{2} = \frac{12\sqrt{3}x^2}{2} = 6\sqrt{3}x^2 \text{ (cm}^2\text{)} \quad (1)\]
Mặt khác, tính diện tích lục giác đều lớn theo cạnh 10 cm:
\[S_{\text{lớn}} = \frac{3\sqrt{3} \cdot 10^2}{2} = 150\sqrt{3} \text{ (cm}^2\text{)} \quad (2)\]
Từ (1) và (2):
\[6\sqrt{3}x^2 = 150\sqrt{3}\]
\[x^2 = 25\]
\[x = 5 \text{ (thỏa mãn } 0 < x < 10\text{)}\]
Vậy cạnh của lục giác đều nhỏ là 5 cm.