Даны действительные числа a,b,c, удовлетворяющие неравенствам a b c и равенству a^2+b^2+c^2=4. Найдите наибольшее возможное значение выражения (a-b)(b-c)(a+b+c)^2.
Положим x=a-b0, y=b-c0, s=a+b+c. Тогда a^2+b^2+c^2=(s^2)/(3)+(2)/(3)(x^2+xy+y^2), поэтому условие равносильно s^2+2(x^2+xy+y^2)=12. Искомое выражение равно xys^2. Так как x^2+xy+y^23xy, то, обозначив p=xy, получаем 0<= p2 и xys^2<= p(12-6p)=6-6(p-1)^26. Равенство достигается при x=y=1 и s^2=6. Например, подходят числа a=sqrt(23)+1, b=sqrt(23), c=sqrt(23)-1. Следовательно, наибольшее значение равно 6.
$6$