Xét đáp án A:
Tịnh tiến \(\overrightarrow{AB}\) về B, ta được vectơ cùng hướng với \(\overrightarrow{BE}\) (E là điểm sao cho BE song song và cùng hướng AB). Góc hợp bởi \(\overrightarrow{BE}\) và \(\overrightarrow{BD}\) là \(135^o\), không phải \(45^o\). Vậy A sai.

Xét đáp án B:
Góc giữa \(\overrightarrow{AC}\) và \(\overrightarrow{BC}\) là \(45^o\) (tam giác ABC cân tại B với \(AB = BC = a\)).
\(AC = a\sqrt{2},\quad BC = a\)
\(\overrightarrow{AC}.\overrightarrow{BC} = AC \cdot BC \cdot \cos 45^o = a\sqrt{2} \cdot a \cdot \dfrac{\sqrt{2}}{2} = a^2\)
Vậy B đúng.

Xét đáp án C:
Hai đường chéo AC và BD của hình vuông vuông góc với nhau, nên:
\(\overrightarrow{AC}.\overrightarrow{BD} = AC \cdot BD \cdot \cos 90^o = 0 \ne a^2\sqrt{2}\)
Vậy C sai.

Xét đáp án D:
Góc giữa \(\overrightarrow{BA}\) và \(\overrightarrow{BD}\) là \(45^o\) (góc giữa cạnh và đường chéo trong hình vuông).
\(BA = a,\quad BD = a\sqrt{2}\)
\(\overrightarrow{BA}.\overrightarrow{BD} = a \cdot a\sqrt{2} \cdot \cos 45^o = a \cdot a\sqrt{2} \cdot \dfrac{\sqrt{2}}{2} = a^2 \ne -a^2\)
Vậy D sai.

Chọn B.