Phương pháp giải:

+) Từ giả thiết ta biến đổi để tìm được điều kiện của \(x\) (coi nó là một phương tình bậc hai ẩn \(y\))

+) Biến đổi để sử dụng phương pháp hàm số

Lời giải chi tiết:

Theo giả thiết \({{x}^{2}}+{{y}^{2}}+xy+4=4y+3x\Leftrightarrow {{y}^{2}}+\left( x-4 \right)y+{{x}^{2}}-3x+4=0\)

Ta xem đây là phương trình bậc hai ẩn yvà khi đó điều kiện có nghiệm là :

\(\Delta ={{\left( x-4 \right)}^{2}}-4\left( {{x}^{2}}-3x+4 \right)=-3{{x}^{2}}+4x\ge 0\Leftrightarrow 0\le x\le \frac{4}{3}\)

Từ giả thiết suy ra \({{x}^{2}}+{{y}^{2}}+xy=3x+4y-4\). Khi đó :

\(P=3\left( x-y \right)\left( {{x}^{2}}+xy+{{y}^{2}} \right)+20{{x}^{2}}+2xy+5{{y}^{2}}+39x=2\left( 12{{x}^{2}}-6{{y}^{2}}+16y+21x \right)-20\)

Đặt \(g\left( y \right)=-6{{y}^{2}}+16y+21x+12{{x}^{2}}\)(ta xem \(x\) là tham số)

Khi đó \(g\left( y \right)\le g\left( \frac{4}{3} \right)=12{{x}^{2}}+21x+\frac{32}{3}\)  Do \(x\in \left[ 0;\frac{4}{3} \right]\) nên \(12{{x}^{2}}+21x+\frac{32}{3}\le 60\)

Suy ra \(g\left( y \right)\le 60\)  Vậy giá trị lớn nhất của \(P\) là \(100\) khi \(x=y=\frac{4}{3}\)

Chọn A.