Phương pháp giải:

+) Sử dụng công thức \(\cos a\cos b = \dfrac{1}{2}\left[ {\cos \left( {a + b} \right) + \cos \left( {a - b} \right)} \right]\).

+) \(ABC\) là tam giác \( \Rightarrow A + B + C = \pi \). Sử dụng mối quan hệ \(\cos A =  - \cos \left( {\pi  - A} \right)\).

+) Thêm bớt tạo hằng đẳng thức, đưa đẳng thức về dạng \({A^2} + {B^2} \ge 0 \Leftrightarrow \left\{ \begin{array}{l}A = 0\\B = 0\end{array} \right.\).

Lời giải chi tiết:

\(\begin{array}{l}\cos A\cos B\cos C = \dfrac{1}{8} \Leftrightarrow \dfrac{1}{2}\left[ {\cos \left( {A + B} \right) + \cos \left( {A - B} \right)} \right]\cos C = \dfrac{1}{8}\\ \Leftrightarrow \left[ {\cos \left( {\pi  - C} \right) + \cos \left( {A - B} \right)} \right]\cos C = \dfrac{1}{4}\\ \Leftrightarrow \left[ {\cos \left( {\pi  - C} \right) + \cos \left( {A - B} \right)} \right]\cos C - \dfrac{1}{4} = 0\\ \Leftrightarrow \left[ { - \cos C + \cos \left( {A - B} \right)} \right]\cos C - \dfrac{1}{4} = 0\\ \Leftrightarrow {\cos ^2}C - \cos \left( {A - B} \right)\cos C + \dfrac{1}{4} = 0\\ \Leftrightarrow {\cos ^2}C - \cos \left( {A - B} \right)\cos C + \dfrac{1}{4}{\cos ^2}\left( {A - B} \right) - \dfrac{1}{4}{\cos ^2}\left( {A - B} \right) + \dfrac{1}{4} = 0\\ \Leftrightarrow {\left( {\cos C - \dfrac{1}{2}\cos \left( {A - B} \right)} \right)^2} + \dfrac{1}{4}\left( {1 - {{\cos }^2}\left( {A - B} \right)} \right) = 0\\ \Leftrightarrow {\left( {\cos C - \dfrac{1}{2}\cos \left( {A - B} \right)} \right)^2} + \dfrac{1}{4}{\sin ^2}\left( {A - B} \right) = 0\end{array}\)

Do \(\left\{ \begin{array}{l}{\left( {\cos C - \dfrac{1}{2}\cos \left( {A - B} \right)} \right)^2} \ge 0\\\dfrac{1}{4}{\sin ^2}\left( {A - B} \right) \ge 0\end{array} \right. \Rightarrow {\left( {\cos C - \dfrac{1}{2}\cos \left( {A - B} \right)} \right)^2} + \dfrac{1}{4}{\sin ^2}\left( {A - B} \right) \ge 0\)

Dấu “=” xảy ra \( \Leftrightarrow \left\{ \begin{array}{l}\cos C - \dfrac{1}{2}\cos \left( {A - B} \right) = 0\\\dfrac{1}{4}{\sin ^2}\left( {A - B} \right) = 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}2\cos C = \cos \left( {A - B} \right)\\A - B = 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}2\cos C = 1\\A = B\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}C = \dfrac{\pi }{3}\\A = B\end{array} \right.\) .

Vậy tam giác \(ABC\) đều.

Chọn B.