Gọi x (cm) là độ dài cạnh của mỗi hình vuông nhỏ cắt ở bốn góc. Điều kiện: 0 < x < 30.
Sau khi cắt và gập lên, hộp có:
- Đáy hình vuông cạnh (60 – 2x) cm
- Chiều cao x cm
Thể tích hộp:
\[V(x) = (60 - 2x)^2 \cdot x = 4x^3 - 240x^2 + 3600x \quad (\text{cm}^3)\]
Tính đạo hàm:
\[V'(x) = 12x^2 - 480x + 3600\]
Giải V'(x) = 0:
\[12x^2 - 480x + 3600 = 0 \Leftrightarrow x^2 - 40x + 300 = 0\]
\[\Leftrightarrow (x - 10)(x - 30) = 0 \Leftrightarrow x = 10 \text{ hoặc } x = 30\]
Do 0 < x < 30 nên x = 30 bị loại, chỉ nhận x = 10.
Bảng biến thiên của V trên (0; 30):

Trên (0; 30), V'(x) > 0 khi x ∈ (0; 10) và V'(x) < 0 khi x ∈ (10; 30), nên V đạt cực đại tại x = 10.
Vậy cần cắt các hình vuông có cạnh bằng 10 cm để thể tích hộp đạt lớn nhất.