Phương pháp giải:

Tìm n

Viết số hạng tổng quát là \({T_{k + 1}}\) sau đó suy ra hệ số của số hạng \({T_{k + 1}}\) là \({a_{k + 1}}\).

Để  \({a_{k + 1}}\) là hệ số lớn nhất thì \(\left\{ \matrix{  {a_{k + 1}} > {a_k} \hfill \cr   {a_{k + 1}} > {a_{k + 2}} \hfill \cr}  \right.\)

Lời giải chi tiết:

ĐK: \(n \ge 2\)

\(\eqalign{  & A_n^2 - 3C_n^{n - 1} = 11n \Leftrightarrow {{n!} \over {\left( {n - 2} \right)!}} - 3{{n!} \over {\left( {n - 1} \right)!1!}} = 11n  \cr   &  \Leftrightarrow n\left( {n - 1} \right) - 3n - 11n = 0 \Leftrightarrow {n^2} - 15n = 0 \Leftrightarrow n = 15.  \cr   &  \Rightarrow P\left( x \right) = {\left( {x + 2} \right)^{15}} \cr} \)

Số hạng tổng quát

Số  hạng tổng quát \({T_{k + 1}} = C_{15}^k{x^k}{2^{15 - k}}\,\,\left( {0 \le k \le 10,k \in N} \right)\)

Hệ số của \({T_{k + 1}}\) là \({a_{k + 1}} = C_{15}^k{2^{15 - k}}\)

Hệ số liền trước \({a_k} = C_{15}^{k - 1}{2^{15 - \left( {k - 1} \right)}} = C_{15}^{k - 1}{2^{16 - k}}\)

Hệ số liền sau \({a_{k + 2}} = C_{15}^{k + 1}{2^{15 - \left( {k + 1} \right)}} = C_{15}^{k + 1}{2^{14 - k}}\)

Để  \({a_{k + 1}}\) là hệ số lớn nhất thì

\(\eqalign{  & \left\{ \matrix{  {a_{k + 1}} > {a_k} \hfill \cr   {a_{k + 1}} > {a_{k + 2}} \hfill \cr}  \right. \Leftrightarrow \left\{ \matrix{  C_{15}^k{2^{15 - k}} > C_{15}^{k - 1}{2^{16 - k}} \hfill \cr   C_{15}^k{2^{15 - k}} > C_{15}^{k + 1}{2^{14 - k}} \hfill \cr}  \right. \Leftrightarrow \left\{ \matrix{  {{15!} \over {k!\left( {15 - k} \right)!}}{2^{15 - k}} > {{15!} \over {\left( {k - 1} \right)!\left( {16 - k} \right)!}}{2^{16 - k}} \hfill \cr   {{15!} \over {k!\left( {15 - k} \right)!}}{2^{15 - k}} > {{15!} \over {\left( {k + 1} \right)!\left( {14 - k} \right)!}}{2^{14 - k}} \hfill \cr}  \right.  \cr   &  \Leftrightarrow \left\{ \matrix{  {1 \over k} > {2 \over {16 - k}} \hfill \cr   {2 \over {15 - k}} > {1 \over {k + 1}} \hfill \cr}  \right. \Leftrightarrow \left\{ \matrix{  {{16 - k - 2k} \over {k\left( {16 - k} \right)}} > 0 \hfill \cr   {{2k + 2 - 15 + k} \over {\left( {15 - k} \right)\left( {k + 1} \right)}} > 0 \hfill \cr}  \right. \Leftrightarrow \left\{ \matrix{  k < {{16} \over 3} \hfill \cr   k > {{13} \over 3} \hfill \cr}  \right. \Rightarrow k = 5. \cr} \)

Vậy hệ số lớn nhất là \({a_6} = C_{15}^5{2^{10}}.\)

Chọn B.