Đặt A là gốc tọa độ, \(AB = a\). Vì ABCD là hình vuông và \(SA \perp (ABCD)\), chọn hệ tọa độ:
\(A = (0,0,0),\ B = (a,0,0),\ C = (a,a,0),\ D = (0,a,0),\ S = (0,0,h)\).
Xét đáp án A: BC vuông góc với \((SAB)\)?
Mặt phẳng (SAB) chứa \(\overrightarrow{AB} = (a,0,0)\) và \(\overrightarrow{AS} = (0,0,h)\).
\(\overrightarrow{BC} = (0,a,0)\).
Kiểm tra: \(\overrightarrow{BC} \cdot \overrightarrow{AB} = 0\) và \(\overrightarrow{BC} \cdot \overrightarrow{AS} = 0\). Vậy BC vuông góc (SAB). Đáp án A đúng.
Xét đáp án B: BD vuông góc với \((SAC)\)?
Mặt phẳng (SAC) chứa \(\overrightarrow{AC} = (a,a,0)\) và \(\overrightarrow{AS} = (0,0,h)\).
\(\overrightarrow{BD} = (-a,a,0)\).
Kiểm tra: \(\overrightarrow{BD} \cdot \overrightarrow{AC} = (-a)(a)+(a)(a)+0 = 0\) và \(\overrightarrow{BD} \cdot \overrightarrow{AS} = 0\). Vậy BD vuông góc (SAC). Đáp án B đúng.
Xét đáp án C: AC vuông góc với \((SBD)\)?
Mặt phẳng (SBD) chứa \(\overrightarrow{AB} = (a,0,0)\) và \(\overrightarrow{AD} = (0,a,0)\) không, cần dùng các vectơ trong (SBD).
Lấy \(\overrightarrow{BD} = (-a,a,0)\) và \(\overrightarrow{BS} = (-a,0,h)\).
\(\overrightarrow{AC} = (a,a,0)\).
Kiểm tra: \(\overrightarrow{AC} \cdot \overrightarrow{BD} = (a)(-a)+(a)(a)+0 = 0\). Đến đây tưởng đúng.
Nhưng: \(\overrightarrow{AC} \cdot \overrightarrow{BS} = (a)(-a)+(a)(0)+0 = -a^2 \neq 0\).
Vậy AC không vuông góc với BS, tức AC không vuông góc với \((SBD)\). Đáp án C sai.
Xét đáp án D: AD vuông góc với \((SAB)\)?
\(\overrightarrow{AD} = (0,a,0)\).
Kiểm tra: \(\overrightarrow{AD} \cdot \overrightarrow{AB} = 0\) và \(\overrightarrow{AD} \cdot \overrightarrow{AS} = 0\). Vậy AD vuông góc (SAB). Đáp án D đúng.
Phát biểu sai là đáp án C.