Phương pháp giải:

Viết phương trình tiếp tuyến (d) của đồ thị hàm số tại điểm \(A\left( {1;5} \right)\).

Xét phương trình hoành độ giao điểm, tìm tọa độ điểm B.

Tính diện tích tam giác OAB: \({S_{\Delta OAB}} = {1 \over 2}d\left( {O;d} \right).AB\)

Lời giải chi tiết:

\(y' = 3{x^2} + 6x \Rightarrow y'\left( 1 \right) = 9\)

\( \Rightarrow \) Phương trình tiếp tuyến của đồ thị hàm số tại điểm \(A\left( {1;5} \right)\) là

\(y = 9\left( {x - 1} \right) + 5 = 9x - 4 \Leftrightarrow 9x - y - 4 = 0\,\,\left( d \right)\)

Xét phương trình hoành độ giao điểm \({x^3} + 3{x^2} + 1 = 9x - 4 \Leftrightarrow \left[ \matrix{  x =  - 5 \Rightarrow y =  - 49 \hfill \cr   x = 1 \Rightarrow y = 5 \hfill \cr}  \right. \Rightarrow B\left( { - 5; - 49} \right)\)

\(\eqalign{  &  \Rightarrow AB = \sqrt {{{\left( { - 5 - 1} \right)}^2} + {{\left( { - 49 - 5} \right)}^2}}  = 6\sqrt {82}   \cr   & d\left( {O;AB} \right) = d\left( {O;d} \right) = {{\left| { - 4} \right|} \over {\sqrt {{9^2} + {1^2}} }} = {4 \over {\sqrt {82} }}  \cr   &  \Rightarrow {S_{\Delta OAB}} = {1 \over 2}d\left( {O;d} \right).AB = {1 \over 2}.{4 \over {\sqrt {82} }}.6\sqrt {82}  = 12 \cr} \)

Chọn A.