Phương pháp giải:

Sử dụng khai triển nhị thức Newton \({\left( {a + b} \right)^n} = \sum\limits_{k = 0}^n {C_n^k{a^k}{b^{n - k}}} \).

Lời giải chi tiết:

Ta có: \({\left( {a + 2b} \right)^5} = \sum\limits_{k = 0}^5 {C_5^k{a^k}{{\left( {2b} \right)}^{5 - k}}}  = \sum\limits_{k = 0}^5 {C_5^k{a^k}{2^{5 - k}}.{b^{5 - k}}} \)

Hệ số của \({a^3}{b^2}\) ứng với \(\left\{ \begin{array}{l}k = 3\\5 - k = 2\end{array} \right. \Leftrightarrow k = 3 \Rightarrow \) Hệ số của đơn thức \({a^3}{b^2}\) là \({2^2}C_5^3 = 40\).

Chọn C.