Phương pháp giải:

+) Giải phương trình \(A_n^2 + 2C_n^n = 22\) tìm \(n\), sử dụng các công thức \(A_n^k = \dfrac{{n!}}{{\left( {n - k} \right)!}},\,\,C_n^k = \dfrac{{n!}}{{k!\left( {n - k} \right)!}}\).

+) Sử dụng khai triển nhị thức Newton: \({\left( {a + b} \right)^n} = \sum\limits_{k = 0}^n {C_n^k{a^k}{b^{n - k}}} \).

Lời giải chi tiết:

\(\begin{array}{l}A_n^2 + 2C_n^n = 22 \Leftrightarrow \dfrac{{n!}}{{\left( {n - 2} \right)!}} + 2.1 = 22\\ \Leftrightarrow n\left( {n - 1} \right) = 20 \Leftrightarrow {n^2} - n - 20 = 0 \Leftrightarrow \left[ \begin{array}{l}n = 5\,\,\,\,\,\,\left( {tm} \right)\\n =  - 4\,\,\left( {ktm} \right)\end{array} \right.\end{array}\)

Khi đó ta có:

\({\left( {3x - 4} \right)^5} = \sum\limits_{k = 0}^5 {C_5^k{{\left( {3x} \right)}^k}{{\left( { - 4} \right)}^{5 - k}}}  = \sum\limits_{k = 0}^5 {C_5^k{3^k}{{\left( { - 4} \right)}^{5 - k}}{x^k}} \)

Hệ số của \({x^3}\) ứng với \(k = 3\).

Vậy hệ số của \({x^3}\) trong khai triển trên là \(C_5^3{.3^3}{\left( { - 4} \right)^2} = 4320\).

Chọn C.