Phương pháp giải:

Lập phương trình hoành độ giao điểm \(\left( * \right)\)  của hai đồ thị hàm số.

Tìm điều kiện của \(m\) để phương trình \(\left( * \right)\) có hai nghiệm phân biệt.

Áp dụng định lý Vi-et để tìm giá trị nhỏ nhất của biểu thức \(O{A^2} + O{B^2}.\)

Lời giải chi tiết:

Xét phương trình hoành độ giao điểm của hai đồ thị hàm số:

\({x^2} - 2x - 2 = x + m \Leftrightarrow {x^2} - 3x - m - 2 = 0\,\,\,\,\,\,\left( * \right)\)

\(\left( d \right)\) cắt \(\left( P \right)\) tại hai điểm phân biệt \( \Leftrightarrow \left( * \right)\) có hai nghiệm phân biệt

\( \Leftrightarrow \Delta  > 0 \Leftrightarrow 9 + 4\left( {m + 2} \right) > 0 \Leftrightarrow 4m + 17 > 0 \Leftrightarrow m >  - \frac{{17}}{4}.\)

Gọi \(A\left( {{x_A};\,\,{y_A}} \right),\,\,\,B\left( {{x_B};\,\,{y_B}} \right)\) là hai giao điểm của hai đồ thị hàm số.

\( \Rightarrow {x_A};\,\,{x_B}\) là hai nghiệm của phương trình \(\left( * \right).\)

Áp dụng định lý Vi-et ta có:\(\left\{ \begin{array}{l}{x_A} + {x_B} = 3\\{x_A}{x_B} =  - m - 2\end{array} \right..\)

Ta có: \(OA = \sqrt {x_A^2 + y_A^2} ,\,\,\,OB = \sqrt {x_B^2 + y_B^2} \)

\(\begin{array}{l} \Rightarrow O{A^2} + O{B^2} = x_A^2 + y_A^2 + x_B^2 + y_B^2 = \left( {x_A^2 + x_B^2} \right) + \left( {y_A^2 + y_B^2} \right)\\ = \left( {x_A^2 + x_B^2} \right) + \left[ {{{\left( {{x_A} + m} \right)}^2} + {{\left( {{x_B} + m} \right)}^2}} \right]\\ = x_A^2 + x_B^2 + x_A^2 + x_B^2 + 2m\left( {{x_A} + {x_B}} \right) + 2{m^2}\\ = 2{\left( {{x_A} + {x_B}} \right)^2} - 4{x_A}{x_B} + 2m\left( {{x_A} + {x_B}} \right) + 2{m^2}\end{array}\)

\(\begin{array}{l} = {2.3^2} + 4\left( {m + 2} \right) + 2m.3 + 2{m^2}\\ = 2{m^2} + 10m + 26 = 2\left( {{m^2} + 5m} \right) + 26\\ = 2{\left( {m + \frac{5}{2}} \right)^2} + \frac{{27}}{2} \ge \frac{{27}}{2}\end{array}\)

Dấu ‘‘=’’ xảy ra \( \Leftrightarrow m + \frac{5}{2} = 0 \Leftrightarrow m =  - \frac{5}{2}\,\,\,\,\left( {tm} \right).\)

Vậy \(O{A^2} + O{B^2}\) đạt giá trị nhỏ nhất khi \(m =  - \frac{5}{2}.\)

Chọn A.