Tìm tất cả các giá trị thực của tham số $m$ để đồ thị hàm số $y = x^3 – 3x^2 + 3(1 – m)x + 1 + 3m$ có hai điểm cực trị $A, B$ sao cho tam giác $OAB$ vuông tại gốc tọa độ $O$

Bước 1: Tìm điều kiện để hàm số có hai điểm cực trị.

Tập xác định: $D = \mathbb{R}$. Đạo hàm của hàm số là:

$$y’ = 3x^2 – 6x + 3(1 – m) = 3\left(x^2 – 2x + 1 – m\right)$$

Cho $y’ = 0 \Leftrightarrow x^2 – 2x + 1 – m = 0 \Leftrightarrow (x – 1)^2 = m$.

Để hàm số có hai điểm cực trị thì phương trình $y’ = 0$ phải có hai nghiệm phân biệt, điều này tương đương với:

$$m > 0$$

Khi đó, hoành độ hai điểm cực trị là $x_1 = 1 – \sqrt{m}$ và $x_2 = 1 + \sqrt{m}$.

Theo định lý Vi-ét ta có: $\begin{cases} x_1 + x_2 = 2 \\ x_1 x_2 = 1 – m \end{cases}$

Bước 2: Tìm phương trình đường thẳng qua hai điểm cực trị.

Thực hiện phép chia đa thức $y$ cho $y’$, ta có phân tích:

$$y = \left(\frac{1}{3}x – \frac{1}{3}\right) y’ – 2mx + 2m = \left(\frac{1}{3}x – \frac{1}{3}\right) y’ – 2m(x – 1)$$

Tại các điểm cực trị $A(x_1; y_1)$ và $B(x_2; y_2)$, ta có $y'(x_1) = y'(x_2) = 0$, do đó:

$$y_1 = -2m(x_1 – 1) = -2m(-\sqrt{m}) = 2m\sqrt{m}$$
$$y_2 = -2m(x_2 – 1) = -2m(\sqrt{m}) = -2m\sqrt{m}$$

Tọa độ hai điểm cực trị là $A(1 – \sqrt{m}; 2m\sqrt{m})$ và $B(1 + \sqrt{m}; -2m\sqrt{m})$.

Bước 3: Thiết lập điều kiện tam giác $OAB$ vuông tại $O$.

Ta có $\vec{OA} = (1 – \sqrt{m}; 2m\sqrt{m})$ và $\vec{OB} = (1 + \sqrt{m}; -2m\sqrt{m})$.

Tam giác $OAB$ vuông tại gốc tọa độ $O$ khi và chỉ khi:

$$\vec{OA} \cdot \vec{OB} = 0 \Leftrightarrow (1 – \sqrt{m})(1 + \sqrt{m}) + (2m\sqrt{m})(-2m\sqrt{m}) = 0$$
$$\Leftrightarrow (1 – m) – 4m^3 = 0 \Leftrightarrow 4m^3 + m – 1 = 0$$
$$\Leftrightarrow (2m – 1)(2m^2 + m + 1) = 0$$

Vì $2m^2 + m + 1 = 2\left(m + \frac{1}{4}\right)^2 + \frac{7}{8} > 0$ với mọi $m$, nên phương trình tương đương:

$$2m – 1 = 0 \Leftrightarrow m = \frac{1}{2}$$

Giá trị $m = \frac{1}{2}$ thỏa mãn điều kiện $m > 0$.

👉 Kết luận / Đáp án: Chọn B ($m = \frac{1}{2}$).