Phương pháp giải:

Lấy điểm C thuộc đường thẳng AB sao cho \(\overrightarrow {AC}  = 2\overrightarrow {AB} \), kết hợp điều kiện điểm M để suy ra tính chất luôn đúng của M đối với A, B, C cố định .

Lời giải chi tiết:

Cho 2 điểm cố định A,B và \(AB = a\). Tìm tập hợp điểm M thỏa mãn \(\overrightarrow {AM} .\overrightarrow {AB}  = 2{a^2}\).

Lấy điểm C thuộc đường thẳng AB sao cho \(\overrightarrow {AC}  = 2\overrightarrow {AB}  \Rightarrow AC = 2a\)

\(\begin{array}{l} \Rightarrow \left( {\overrightarrow {AC} ,\;\overrightarrow {AB} } \right) = {0^0}.\\ \Rightarrow \overrightarrow {AC} .\overrightarrow {AB}  = 2a.a.\cos {0^o} = 2{a^2}.\end{array}\)

 Do đó \(\overrightarrow {AM} .\overrightarrow {AB}  = \overrightarrow {AC} .\overrightarrow {AB}  \Rightarrow \overrightarrow {AB} .\left( {\overrightarrow {AM}  - \overrightarrow {AC} } \right) = 0 \Leftrightarrow \overrightarrow {AB} .\overrightarrow {CM}  = 0\)

TH1: \(\overrightarrow {CM}  = \overrightarrow 0  \Rightarrow M \equiv C\)

TH2: \(\overrightarrow {CM}  \ne \overrightarrow 0 \) \( \Rightarrow CM \bot AB\) tại C

Vậy tập hợp điểm M là đường thẳng đi qua C và vuông góc với đường thẳng AB.

Chọn A.