Phương pháp giải:

Dùng nguyên tắc buộc để buộc ba quyển sách Toán lại với nhau và ba quyển sách Vật Lý lại với nhau. Ta coi 6 quyển sách là 3 bộ Toán và Vật Lý và sắp xếp 2 bộ đó.

Lời giải chi tiết:

Số cách xếp 6 quyển sách lên một kệ dài là 6! = 720 cách.

Buộc 3 quyển sách Toán lại với nhau và ba quyển sách Vật Lý lại với nhau và coi 6 quyển sách là hai bộ Toán và Vật Lý.

Số cách xếp 2 bộ này là: 2! = 2 cách.

Trong bộ Toán có 3! = 6 hoán vị.

Trong bộ Vật Lý có 3! = 6 hoán vị.

Vậy số cách xếp để 3 quyển sách cùng một môn nằm cạnh nhau là: 2.6.6 = 72 cách.

Xác suất cần tìm là \({{72} \over {720}} = {1 \over {10}}.\)

Chọn B.