Phương pháp giải:

- Viết phương trình hoành độ giao điểm của đường thẳng và đồ thị hàm số.

- Tìm điều kiện của \(m\) để phường trình hoành độ giao điểm có 3 nghiệm phân biệt.

- Áp dụng định lí Vi – et để tìm mối liên hệ giữa các nghiệm của phương trình.

Tìm giá trị của \(m\) thỏa mãn \(BC = 2\sqrt 3 \)

Lời giải chi tiết:

TXĐ : \(D = \mathbb{R}\)

\(\begin{array}{l}d:\,\,\,\,\,\,y = x + m - 1\\\left( C \right):\,\,\,\,\,y = {x^3} + \left( {m - 3} \right){x^2} + x + 1\end{array}\)

Phương trình hoành độ giao điểm của đường thẳng \(d\) và đồ thị \(\left( C \right)\) là :

        \(\begin{array}{l}x + m - 1 = {x^3} + \left( {m - 3} \right){x^2} + x + 1\,\,\,\,\left( 1 \right)\\ \Leftrightarrow {x^3} + \left( {m - 3} \right){x^2} - m + 2 = 0\\ \Leftrightarrow \left( {{x^3} - {x^2}} \right) + \left( {m - 2} \right){x^2} - \left( {m - 2} \right)x + \left( {m - 2} \right)x - \left( {m - 2} \right) = 0\end{array}\)

        \(\begin{array}{l} \Leftrightarrow \left( {x - 1} \right)\left( {{x^2} + \left( {m - 2} \right)x + m - 2} \right) = 0\\ \Leftrightarrow \left[ \begin{array}{l}x = 1\\{x^2} + \left( {m - 2} \right)x + m - 2 = 0\,\,\,\,\,\,\left( 2 \right)\end{array} \right.\end{array}\)

Đường thẳng \(d\) cắt đồ thị hàm số \(\left( C \right)\) tại 3 điểm phân biệt khi phương trình (1) có 3 nghiệm phân biệt.

Do đó, phương trình (2) phải có 2 nghiệm phân biệt và khác 1.

Suy ra :

        \(\left\{ \begin{array}{l}\Delta  > 0\\{1^2} + \left( {m - 2} \right).1 + m - 2 \ne 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}{\left( {m - 2} \right)^2} - 4\left( {m - 2} \right) > 0\\2m - 3 \ne 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}\left( {m - 2} \right)\left( {m - 6} \right) > 0\\m \ne \dfrac{3}{2}\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}m > 6\\\left\{ \begin{array}{l}m < 2\\m \ne \dfrac{3}{2}\end{array} \right.\end{array} \right.\,\,\,\,\,\left( * \right)\)

Khi đó, phương trình (2) có 2 nghiệm phân biệt \({x_1};\,\,{x_2}\) thỏa mãn \(\left\{ \begin{array}{l}{x_1} + {x_2} = 2 - m\\{x_1}.{x_2} = m - 2\end{array} \right.\)

Suy ra \(B\left( {{x_1};\,{x_1} + m - 1} \right);\,\,\,C\left( {{x_2};\,\,{x_2} + m - 1} \right)\)

Ta có:

        \(\begin{array}{l}BC = 2\sqrt 3 \\ \Leftrightarrow {\left( {{x_2} - {x_1}} \right)^2} + {\left[ {\left( {{x_2} + m - 1} \right) - \left( {{x_1} + m - 1} \right)} \right]^2} = {\left( {2\sqrt 3 } \right)^2}\\ \Leftrightarrow {\left( {{x_2} - {x_1}} \right)^2} + {\left( {{x_2} - {x_1}} \right)^2} = 12\\ \Leftrightarrow {\left( {{x_2} - {x_1}} \right)^2} = 6\end{array}\)

        \(\begin{array}{l} \Leftrightarrow {\left( {{x_1} + {x_2}} \right)^2} - 4{x_1}{x_2} = 6\\ \Leftrightarrow {\left( {2 - m} \right)^2} - 4\left( {m - 2} \right) = 6\\ \Leftrightarrow {m^2} - 4m + 4 - 4m + 8 = 6\\ \Leftrightarrow {m^2} - 8m + 6 = 0\\ \Leftrightarrow \left[ \begin{array}{l}m = 4 + \sqrt {10} \\m = 4 - \sqrt {10} \end{array} \right.\left( {t/m\,\,\,\left( * \right)} \right) \Rightarrow S = \left\{ {4 + \sqrt {10} ;4 - \sqrt {10} } \right\}\end{array}\)

Vậy tổng bình phương tất cả các phần tử của tập \(S\) bằng 52.

Chọn C.