Lời giải chi tiết:

Đồ thị hàm số đi qua \(A\left( {2;0} \right) \Rightarrow 4a + 2b + c = 0\,\,\left( 1 \right)\).

Đồ thị hàm số đi qua \(B\left( { - 2; - 8} \right) \Rightarrow 4a - 2b + c =  - 8\,\,\left( 2 \right)\).

Từ (1) và (2) \( \Rightarrow \left\{ \begin{array}{l}4a + 2b + c = 0\\4a - 2b + c =  - 8\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}4a + c =  - 4\\b = 2\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}c =  - 4a - 4\\b = 2\end{array} \right.\)

\( \Rightarrow \left( P \right):\,\,y = a{x^2} + 2x - 4a - 4\).

Hàm số có giá trị lớn nhất bằng \(1 \Rightarrow \left\{ \begin{array}{l}a < 0\\ - \dfrac{\Delta }{{4a}} = 1\end{array} \right.\).

\(\begin{array}{l} \Leftrightarrow \left\{ \begin{array}{l}a < 0\\ - \dfrac{{{2^2} - 4.a\left( { - 4a - 4} \right)}}{{4a}} = 1\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}a < 0\\4 + 16{a^2} + 16a =  - 4a\end{array} \right.\\ \Leftrightarrow \left\{ \begin{array}{l}a < 0\\16{a^2} + 20a + 4 = 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}a < 0\\\left[ \begin{array}{l}a =  - \dfrac{1}{4}\\a =  - 1\end{array} \right.\,\,\left( {tm} \right)\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}a =  - \dfrac{1}{4}\\a =  - 1\end{array} \right.\end{array}\)  

Với \(a =  - \dfrac{1}{4} \Rightarrow \left\{ \begin{array}{l}b = 2\\c =  - 3\end{array} \right. \Rightarrow {a^2} + {b^2} + {c^2} = \dfrac{{209}}{{16}}\)

Với \(a =  - 1 \Rightarrow \left\{ \begin{array}{l}b = 2\\c = 0\end{array} \right. \Rightarrow {a^2} + {b^2} + {c^2} = 5\)

Vậy \({a^2} + {b^2} + {c^2} = 5\) hoặc \({a^2} + {b^2} + {c^2} = \dfrac{{209}}{{16}}\).

Chọn D.