Lời giải chi tiết:

Số cách xếp 12 quyển sách thành 1 dãy là: \({n_\Omega } = C_{12}^3.C_9^3.C_6^3.C_3^3\)

Xét biến cố P tồn tại trong dãy 3 quyển sách cùng môn đứng cạnh nhau.

Gọi A, B, C, D lần lượt là biến cố 3 quyển sách Toán, Lý, Hóa, Sinh đứng cạnh nhau.

Ta có: \({n_A} = {n_B} = {n_C} = {n_D} = C_{10}^1.C_9^3.C_6^3.C_3^3\)

\({n_{A \cap B}} = {n_{A \cap C}} = {n_{A \cap D}} = {n_{B \cap C}} = {n_{B \cap D}} = {n_{C \cap D}} = C_8^1.C_7^1.C_6^3\)

\({n_{A \cap B \cap C}} = {n_{A \cap B \cap D}} = {n_{A \cap C \cap D}} = {n_{B \cap C \cap D}} = C_6^1.C_5^1.C_4^1\)

\({n_{A \cap B \cap C \cap D}} = 4!\)

\( \Rightarrow {n_P} = {n_{A \cup B \cup C \cup D}} = {n_A} + {n_B} + {n_C} + {n_D} - \left( {{n_{A \cap B}} + ... + {n_{C \cap D}}} \right) - \left( {{n_{A \cap B \cap C}} + ... + {n_{B \cap C \cap D}}} \right) - {n_{A \cap B \cap C \cap D}}\)\( = 60936\)

Vậy số cách xếp để 3 quyển sách cùng môn không đứng cạnh nhau là: \({n_\Omega } - {n_P} = 308664\)cách

Chọn A.