Phương pháp giải:

- Sử dụng phương pháp đổi biến số, đặt \(t = \sqrt {{x^2} + 1} \).

- Tích tích phân sau khi đổi biến.

- Đồng nhất hệ số tìm \(a,\,\,b\) và tính \({a^2} - {b^2}\).

Lời giải chi tiết:

Đặt \(t = \sqrt {{x^2} + 1}  \Rightarrow {t^2} = {x^2} + 1 \Rightarrow tdt = xdx\).

Đổi cận: \(\left\{ \begin{array}{l}x = 0 \Rightarrow t = 1\\x = 1 \Rightarrow t = \sqrt 2 \end{array} \right.\).

Khi đó ta có: \(\int\limits_0^1 {x\sqrt {{x^2} + 1} dx}  = \int\limits_1^{\sqrt 2 } {{t^2}dt}  = \left. {\dfrac{{{t^3}}}{3}} \right|_1^{\sqrt 2 } = \dfrac{{2\sqrt 2 }}{3} - \dfrac{1}{3} = \dfrac{{2\sqrt 2  - 1}}{3}\).

\( \Rightarrow a = 2,\,\,b = 3\).

Vậy \({a^2} - {b^2} = {2^2} - {3^2} =  - 5.\)

Chọn A.