Phương pháp giải:

Sử dụng nhị thức Newton khai triển \({\left( {{x^2} + 1} \right)^n}{\left( {x + 2} \right)^n} = \left( {\sum\limits_{k = 0}^n {C_n^k{x^{2k}}} } \right)\left( {\sum\limits_{i = 0}^n {C_n^i{x^i}{2^{n - i}}} } \right)\)

Muốn tìm số hạng chứa \({x^{3n - 3}}\) ta phải tìm cặp (k, i) sao cho \(2k + i = 3n - 3\)

Lời giải chi tiết:

Theo công thức khai triển của nhị thức Newton ta có:

\({\left( {{x^2} + 1} \right)^n}{\left( {x + 2} \right)^n} = \left( {\sum\limits_{k = 0}^n {C_n^k{x^{2k}}} } \right)\left( {\sum\limits_{i = 0}^n {C_n^i{x^i}{2^{n - i}}} } \right) = \left( {\sum\limits_{k = 0}^n {C_n^k{x^{2k}}} } \right)\left( {\sum\limits_{i = 0}^n {{2^{n - i}}C_n^i{x^i}} } \right)\)

Số hạng chứa \({x^{3n - 3}}\) tương ứng với cặp (k, i) thỏa mãn \(\left\{ \matrix{  2k + i = 3n - 3 \hfill \cr   0 \le k,i \le n \hfill \cr}  \right. \Rightarrow \left[ \matrix{  \left( {k;i} \right) = \left( {n - 1;n - 1} \right) \hfill \cr   \left( {k;i} \right) = \left( {n;n - 3} \right) \hfill \cr}  \right.\)

Do đó hệ số của \({x^{3n - 3}}\) là: \({a_{3n - 3}} = C_n^{n - 1}{.2^1}C_n^{n - 1} + C_n^n{.2^3}C_n^{n - 3} = 2{n^2} + 8C_n^3\)

\(\eqalign{  & {a_{3n - 3}} = 26n \Leftrightarrow 2{n^2} + 8C_n^3 = 26n \Leftrightarrow 2{n^2} + 8{{n!} \over {3!\left( {n - 3} \right)!}} = 26n  \cr   &  \Leftrightarrow 2{n^2} + {4 \over 3}n\left( {n - 1} \right)\left( {n - 2} \right) - 26n = 0  \cr   &  \Leftrightarrow n\left( {2n + {4 \over 3}{n^2} - 4n + {8 \over 3} - 26} \right) = 0  \cr   &  \Leftrightarrow \left[ \matrix{  n = 0\,\,\,\,\,\,\left( {ktm} \right) \hfill \cr   n = 5\,\,\,\,\,\,\,\left( {tm} \right) \hfill \cr   n =  - {7 \over 2}\,\,\left( {ktm} \right) \hfill \cr}  \right. \cr} \)

Vậy n = 5.

Chọn D.