Đặt $\overrightarrow{u} = \overrightarrow{F_1} + \overrightarrow{F_2}$. Dựng hình bình hành ABCD sao cho $\overrightarrow{AB}$ cùng phương, chiều với $\overrightarrow{F_1}$ và $\overrightarrow{AD}$ cùng phương, chiều với $\overrightarrow{F_2}$. Khi đó $\overrightarrow{u} = \overrightarrow{AC}$.

Vì chất điểm A cân bằng: $\overrightarrow{F_1} + \overrightarrow{F_2} + \overrightarrow{F_3} = \overrightarrow{0}$, tức là $\overrightarrow{u} + \overrightarrow{F_3} = \overrightarrow{0}$.
Suy ra $\overrightarrow{u}$ và $\overrightarrow{F_3}$ là hai vectơ đối nhau, nên $|\overrightarrow{F_3}| = |\overrightarrow{u}| = AC$.
Từ hình vẽ, $\overrightarrow{F_3}$ hướng theo AE với góc $\widehat{EAB} = 120^\circ$.
Vì A, C, E thẳng hàng (do $\overrightarrow{F_3}$ và $\overrightarrow{u}$ đối nhau):
\[ \widehat{CAB} = 180^\circ - \widehat{EAB} = 180^\circ - 120^\circ = 60^\circ \]
Vì $\overrightarrow{F_1}$ vuông góc $\overrightarrow{F_2}$ (theo hình), tức là $\widehat{DAB} = 90^\circ$:
\[ \widehat{CAD} = 90^\circ - 60^\circ = 30^\circ \]
Tam giác ACD vuông tại D với $AD = |\overrightarrow{F_1}| = 20$N:
\[ AC = \frac{AD}{\cos 30^\circ} = \frac{20}{\dfrac{\sqrt{3}}{2}} = \frac{40}{\sqrt{3}} = \frac{40\sqrt{3}}{3} \text{ (N)} \]
\[ AB = DC = AC \cdot \sin 30^\circ = \frac{40\sqrt{3}}{3} \cdot \frac{1}{2} = \frac{20\sqrt{3}}{3} \text{ (N)} \]
Vậy $|\overrightarrow{F_2}| = \dfrac{20\sqrt{3}}{3}$ N và $|\overrightarrow{F_3}| = \dfrac{40\sqrt{3}}{3}$ N.