Phương pháp giải:

Gọi \(M\left( {x;y} \right)\) thay và đẳng thức bài cho tìm mối quan hệ giữa \(x\) và \(y\).

Từ đó suy ra tập hợp điểm M.

Lời giải chi tiết:

Gọi \(M\left( {x;y} \right)\) ta có:

\(AM = \sqrt {{{\left( {x - 2} \right)}^2} + {{\left( {y - 0} \right)}^2}} \) \( = \sqrt {{{\left( {x - 2} \right)}^2} + {y^2}} \)

\( \Rightarrow M{A^2} = A{M^2} = {\left( {x - 2} \right)^2} + {y^2}\)

\(BM = \sqrt {{{\left( {x - 0} \right)}^2} + {{\left( {y - 2} \right)}^2}} \) \( = \sqrt {{x^2} + {{\left( {y - 2} \right)}^2}} \)

\( \Rightarrow M{B^2} = B{M^2} = {x^2} + {\left( {y - 2} \right)^2}\)

Do đó ta có: \(M{A^2} + M{B^2} = 12\)

\(\begin{array}{l} \Leftrightarrow {\left( {x - 2} \right)^2} + {y^2} + {x^2} + {\left( {y - 2} \right)^2} = 12\\ \Leftrightarrow {x^2} - 4x + 4 + {y^2} + {x^2} + {y^2} - 4y + 4 = 12\\ \Leftrightarrow 2{x^2} + 2{y^2} - 4x - 4y - 4 = 0\\ \Leftrightarrow {x^2} + {y^2} - 2x - 2y - 2 = 0\end{array}\)

Dễ thấy, phương trình trên là phương trình đường tròn có tâm \(I\left( {1;1} \right)\) và bán kính \(R = \sqrt {{1^2} + {1^2} - \left( { - 2} \right)}  = 2\).

Vậy tập hợp điểm M thỏa mãn \(M{A^2} + M{B^2} = 12\) là đường tròn tâm \(I\left( {1;1} \right)\) và bán kính \(R = 2\).

Chọn D.