Phương pháp giải:

Tách \(\angle AOC = \angle AOB - \angle COD\). Áp dụng công thức cộng lượng giác và Pitago để tính \(\cos \angle AOC\)

Lời giải chi tiết:

Xét \(\Delta OAB\) và \(\Delta COD\) có:

\(\begin{array}{l}\angle OBA = \angle CDO = {90^o}\,\,\,\,\left( {gt} \right)\\OB = CD\,\,\,\left( {gt} \right)\\AB = OD\,\,\,\,\left( {gt} \right)\\ \Rightarrow \Delta OAB = \Delta COD\,\,\,\left( {c - g - c} \right)\end{array}\)

\( \Rightarrow OA = OC\) (2 cạnh tương ứng)

\( \Rightarrow OA.OC = O{A^2} = O{B^2} + A{B^2} = {a^2} + {b^2}\) (Pitago)

\(\begin{array}{l}\cos \angle AOC = \cos \left( {\angle AOB - \angle COD} \right) = \cos \angle AOB\cos \angle COD + \sin \angle AOB\sin \angle COD\\ = \frac{{OB}}{{OA}}.\frac{{OD}}{{OC}} + \frac{{AB}}{{OA}}.\frac{{CD}}{{OC}} = \frac{{OB.OD + AB.CD}}{{OA.OC}} = \frac{{ab + ab}}{{{a^2} + {b^2}}} = \frac{{2ab}}{{{a^2} + {b^2}}}.\end{array}\)

Chọn A.