Phương pháp giải:

Vì tâm của đường tròn nằm trên đường thẳng \(d:3x - y - 12 = 0\) nên ta gọi \(I\left( {a;\,\,3a - 12} \right)\) là tâm đường tròn.

Vì \(A,B\) nằm trên đường tròn nên \(IA = IB = R\) từ đó ta giải ra \(a \Rightarrow R\)

Lời giải chi tiết:

Vì tâm của đường tròn nằm trên đường thẳng \(d:3x - y - 12 = 0\) nên ta gọi \(I\left( {a;\,\,3a - 12} \right)\)là tâm đường tròn

Vì \(A,B\) nằm trên đường tròn nên ta có: \(IA = IB = R\)

\(\begin{array}{l} \Rightarrow I{A^2} = I{B^2} = {R^2}\\ \Leftrightarrow {\left( {a - 7} \right)^2} + {\left( {3a - 12 + 1} \right)^2} = {\left( {a - 1} \right)^2} + {\left( {3a - 12 - 5} \right)^2}\\ \Leftrightarrow {\left( {a - 7} \right)^2} + {\left( {3a - 11} \right)^2} = {\left( {a - 1} \right)^2} + {\left( {3a - 17} \right)^2}\\ \Leftrightarrow  - 14a + 49 - 66a + 121 =  - 2a + 1 - 102a + 289\\ \Leftrightarrow 24a = 120\\ \Leftrightarrow a = 5\\ \Rightarrow {R^2} = {\left( {5 - 7} \right)^2} + {\left( {3.5 - 11} \right)^2} = 20 \Rightarrow R = 2\sqrt 5 \end{array}\)

Chọn C.