“Lời khuyên của AI” cảm thấy an toàn vì nó nghe có vẻ phù hợp với mọi người.

Đó là mẹo.

Mô hình được điều chỉnh cho trung tâm: câu trả lời không khiến người trung bình bị thiệt hại trong tình huống trung bình.

Nhưng không ai hỏi ý kiến từ trung tâm.

Họ hỏi từ phía rìa:

- đề nghị công việc vs visa vs gia đình
- kiện tụng / ly hôn / quyền nuôi con
- một lần sửa chữa mối quan hệ
- cuộc gọi sức khỏe nơi “có thể ổn” nghĩa là chắc chắn bị hỏng

Vì vậy, nó phục vụ bạn một thứ như:
“Trong hầu hết các trường hợp, hãy nhận công việc có lương cao hơn. Bạn luôn có thể chuyển gia đình sau đó.”

Thường thì đúng.

Cũng chính câu đó biến một lựa chọn có thể đảo ngược thành một con đường một chiều.

Bởi vì nó không hỏi bạn có thể mất gì.

Nó đưa cho bạn những gì thường hoạt động.

Và bạn sẽ không nhận ra sự không phù hợp khi đọc nó.

Bạn chỉ nhận ra khi cố gắng đảo ngược nó.