Phương pháp giải:

Xác suất của biến cố A là: \(P\left( A \right) = \dfrac{{n\left( A \right)}}{{n\left( \Omega  \right)}}\).

Lời giải chi tiết:

Gọi số học sinh nam của trường là n (học sinh, \(n \in \mathbb{N}\))

Số phần tử của không gian mẫu: \(n\left( \Omega  \right) = C_{n + 10}^5\)

Xác suất để cả 5 học sinh được chọn toàn nam : \(\dfrac{{C_n^5}}{{C_{n + 10}^5}}\)

Xác suất trong 5 học sinh được chọn có 2 nữ : \(\dfrac{{C_{10}^2C_n^3}}{{C_{n + 10}^5}}\)

Theo đề bài, ta có:

\(\begin{array}{l}
\frac{{C_n^5}}{{C_{n + 10}^5}} = \frac{7}{{15}}.\frac{{C_{10}^2C_n^3}}{{C_{n + 10}^5}} \Leftrightarrow 15C_n^5 = 7C_{10}^2C_n^3\\
\Leftrightarrow 15C_n^5 = 7.45C_n^3 \Leftrightarrow C_n^5 = 21C_n^3\\
\Leftrightarrow \frac{{n!}}{{5!\left( {n - 5} \right)!}} = \frac{{21.n!}}{{3!\left( {n - 3} \right)!}}
\end{array}\)

\(\begin{array}{*{20}{l}}
\begin{array}{l}
\Leftrightarrow \frac{{n!}}{{5!\left( {n - 5} \right)!}} = \frac{{21.n!}}{{3!\left( {n - 3} \right)!}} \Leftrightarrow 5.4 = \frac{{\left( {n - 3} \right)\left( {n - 4} \right)}}{{21}}\\
\Leftrightarrow {n^2} - 7n + 12 - 420 = 0 \Leftrightarrow {n^2} - 7n - 408 = 0 \Leftrightarrow \left[ {\begin{array}{*{20}{l}}
{n = 24{\mkern 1mu} \left( {TM} \right)}\\
{n = - 17{\mkern 1mu} (L)}
\end{array}} \right.
\end{array}
\end{array}\)

\( \Rightarrow \)Số học sinh nam của lớp 11A là: 24 học sinh

\( \Rightarrow \)Lớp 11A có tất cả số học sinh là: \(10 + 24 = 34\)(học sinh).