Gọi độ dài cạnh đáy của chiếc hộp là \(x\) (cm), điều kiện: \(x > 0\).
Diện tích xung quanh của hộp: \(4x \times 10 = 40x \text{ (cm}^2\text{)}\).
Vì hộp không có nắp, diện tích đáy là: \(x^2 \text{ (cm}^2\text{)}\).
Tổng diện tích xung quanh và diện tích đáy bằng 800 cm², ta lập phương trình:
\[x^2 + 40x = 800\]
\[x^2 + 40x - 800 = 0\]
Tính \(\Delta'\):
\[\Delta' = 20^2 + 800 = 400 + 800 = 1200 \Rightarrow \sqrt{\Delta'} = 20\sqrt{3}\]
Phương trình có hai nghiệm phân biệt:
\[x_1 = -20 + 20\sqrt{3} \approx -20 + 34{,}64 \approx 14{,}6 \text{ (thỏa mãn)}\]
\[x_2 = -20 - 20\sqrt{3} < 0 \text{ (loại)}\]
Vậy độ dài cạnh đáy của chiếc hộp khoảng \(14{,}6\) cm.