Phương pháp giải:

Sử dụng tổ hợp.

Lời giải chi tiết:

Đa giác đều có 2n đỉnh nên có ít nhất 1 đường thẳng đối xứng.

Chọn 2 đỉnh trong n đỉnh rồi lấy đối xứng qua đường thẳng trên ta được một hình chữ nhật.

Hình chữ nhật vừa lập có 4 tam giác vuông.

Do đó số tam giác vuông của đa giác là \(4C_n^2\)

Theo giả thiết ta có xác suất 3 đỉnh tạo thành một tam giác vuông là \(\dfrac{1}{5}.\)

Nên ta có:

\(\begin{array}{l}\dfrac{{4.C_n^2}}{{C_{2n}^3}} = \dfrac{1}{5} \Leftrightarrow \dfrac{{4.\dfrac{{n!}}{{2!\left( {n - 2} \right)!}}}}{{\dfrac{{\left( {2n} \right)!}}{{3!\left( {2n - 3} \right)!}}}} = \dfrac{1}{5}\\ \Leftrightarrow \dfrac{{2n\left( {n - 1} \right).6}}{{2n\left( {2n - 1} \right)\left( {2n - 2} \right)}} = \dfrac{1}{5}\\ \Leftrightarrow \dfrac{3}{{2n - 1}} = \dfrac{1}{5} \Leftrightarrow 2n - 1 = 15 \Leftrightarrow n = 8.\end{array}\)

Chọn C