a) Tập A gồm tất cả số nguyên nhỏ hơn 4:
\[A = \{...; -3; -2; -1; 0; 1; 2; 3\}\]
Tập B là tập các nghiệm nguyên của phương trình \(\left(5x - 3x^2\right)\left(x^2 + 2x - 3\right) = 0\).
Giải phương trình:
\[\left(5x - 3x^2\right)\left(x^2 + 2x - 3\right) = 0\]
\[\Leftrightarrow \left[\begin{array}{l} 5x - 3x^2 = 0 \\ x^2 + 2x - 3 = 0 \end{array}\right.\]
Với \(5x - 3x^2 = 0\):
\[x(5 - 3x) = 0 \Leftrightarrow \left[\begin{array}{l} x = 0 \\ x = \dfrac{5}{3} \end{array}\right.\]
Với \(x^2 + 2x - 3 = 0\):
\[(x - 1)(x + 3) = 0 \Leftrightarrow \left[\begin{array}{l} x = 1 \\ x = -3 \end{array}\right.\]
Vì \(\dfrac{5}{3} \notin \mathbb{Z}\), loại giá trị này. Ba nghiệm còn lại đều là số nguyên, nên:
\[B = \{-3; 0; 1\}\]
b) Giao \(A \cap B\): lấy các phần tử vừa thuộc A vừa thuộc B. Vì \(-3, 0, 1\) đều nhỏ hơn 4 nên đều thuộc A:
\[A \cap B = \{-3; 0; 1\} = B\]
Hợp \(A \cup B\): lấy tất cả phần tử thuộc A hoặc thuộc B. Do \(B \subset A\) nên:
\[A \cup B = A = \{...; -3; -2; -1; 0; 1; 2; 3\}\]
Hiệu \(A \setminus B\): lấy các phần tử thuộc A nhưng không thuộc B (loại \(-3, 0, 1\) khỏi A):
\[A \setminus B = \{...; -4; -2; -1; 2; 3\}\]