Phương pháp giải:

Tìm tọa độ giao điểm A, B là nghiệm của hệ \(\left\{ \begin{array}{l}2x{\rm{ }} - {\rm{ }}y{\rm{ }} - {\rm{ }}5{\rm{ }} = {\rm{ }}0\\{x^2} + {y^2} - 20x + 50 = 0\end{array} \right.\)

Phương trình đường tròn cần tìm có dạng: \({{x}^{2}}+{{y}^{2}}+2ax+2by+c=0\,\,\,\left( * \right)\)

Lần lượt thay tọa độ các điểm A, B, C vào (*) được hệ 3 phương trình 3 ẩn và giải hệ tìm \(a,b,c\)

Lời giải chi tiết:

Tọa độ giao điểm A, B là nghiệm của hệ \(\left\{ \begin{array}{l}2x - y = 5\\{x^2} + {y^2} - 20x + 50 = 0\end{array} \right.\)

\(\begin{array}{l} \Leftrightarrow \left\{ \begin{array}{l}{\rm{ }}y{\rm{  }} = {\rm{ 2x - 5}}\\{x^2} + {y^2} - 20x + 50 = 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}{\rm{ }}y{\rm{  }} = {\rm{ 2x - 5}}\\{x^2} + {\left( {2x - 5} \right)^2} - 20x + 50 = 0\end{array} \right.\\ \Leftrightarrow \left\{ \begin{array}{l}{\rm{ }}y{\rm{  }} = {\rm{ 2x - 5}}\\5{x^2} - 40x + 75 = 0\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}\left\{ \begin{array}{l}x = 5\\y = 5\end{array} \right. \Rightarrow A\left( {5;5} \right)\\\left\{ \begin{array}{l}x = 3\\y = 1\end{array} \right. \Rightarrow B\left( {3;1} \right)\end{array} \right.\end{array}\)

Phương trình đường tròn cần tìm có dạng: \({{x}^{2}}+{{y}^{2}}+2ax+2by+c=0\,\,\,\left( * \right)\)

(*) qua 3 điểm \(A\left( 5;5 \right);\,\,B\left( 3;1 \right);\,\,C\left( 1;1 \right)\) nên ta có hệ phương trình

\(\left\{ \begin{array}{l}10a + 10b + c =  - 50\\6a + 2b + c =  - 10\\2a + 2b + c =  - 2\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}a =  - 2\\b =  - 4\\c = 10\end{array} \right.\)

Vậy phương trình đường tròn cần tìm là: \({{x}^{2}}+{{y}^{2}}-4x-8y+10=0\)

Chọn D.