Lý do khoa học tại sao Chatgpt dẫn bạn xuống các lỗ thỏ

Chatbot đó chỉ nói với bạn những gì bạn muốn tin, theo một nghiên cứu mới.

Cho dù bạn đang sử dụng một công cụ tìm kiếm truyền thống như Google hoặc một công cụ trò chuyện như nhà thờ của Openai, bạn có xu hướng sử dụng các thuật ngữ phản ánh sự thiên vị và nhận thức của bạn, theo nghiên cứu, được công bố vào mùa xuân này trong Kỷ yếu của Viện Hàn lâm Khoa học Quốc gia. Quan trọng hơn, các công cụ tìm kiếm và chatbots thường cung cấp kết quả củng cố những niềm tin đó, ngay cả khi ý định của bạn là tìm hiểu thêm về chủ đề này.

Ví dụ, hãy tưởng tượng bạn đang cố gắng tìm hiểu về ảnh hưởng sức khỏe của việc uống cà phê mỗi ngày. Nếu bạn, giống như tôi, hãy tận hưởng chính xác hai cốc Joe đầu tiên vào buổi sáng, bạn có thể tìm kiếm thứ gì đó như “Cà phê có khỏe không?” hoặc “lợi ích sức khỏe của cà phê.” Nếu bạn đã hoài nghi (có thể là một người theo chủ nghĩa thuần túy trà), bạn có thể tìm kiếm “cà phê có hại cho bạn không?” thay vì. Các nhà nghiên cứu phát hiện ra rằng việc đóng khung các câu hỏi có thể làm lệch kết quả – tôi chủ yếu nhận được câu trả lời cho thấy lợi ích của cà phê, trong khi bạn có được điều ngược lại.

“Khi mọi người tìm kiếm thông tin, cho dù đó là Google hay TATGPT, họ thực sự sử dụng các thuật ngữ tìm kiếm phản ánh những gì họ đã tin”, Eugina Leung, một giáo sư trợ lý tại Đại học Tulane và là tác giả chính của nghiên cứu, nói với tôi.

Sự phong phú của AI Chatbots, và kết quả tự tin và tùy chỉnh mà họ tự do cung cấp cho bạn, giúp việc rơi xuống một lỗ thỏ dễ dàng hơn và khó nhận ra bạn đang ở trong đó. Chưa bao giờ có một thời gian quan trọng hơn để suy nghĩ sâu sắc về cách bạn có được thông tin trực tuyến.

Câu hỏi là: Làm thế nào để bạn có được câu trả lời tốt nhất?

Đặt câu hỏi sai

Các nhà nghiên cứu đã thực hiện 21 nghiên cứu với gần 10.000 người tham gia được yêu cầu tiến hành tìm kiếm về một số chủ đề được chọn trước, bao gồm ảnh hưởng sức khỏe của caffeine, giá khí, tỷ lệ tội phạm, covid-19 và năng lượng hạt nhân. Các công cụ và công cụ tìm kiếm được sử dụng bao gồm Google, TATGPT và các công cụ tìm kiếm được thiết kế tùy chỉnh và các chatbot AI.

Kết quả của các nhà nghiên cứu cho thấy những gì họ gọi là “hiệu ứng tìm kiếm hẹp” là một chức năng của cả cách mọi người đặt câu hỏi và cách các nền tảng công nghệ trả lời. Mọi người có thói quen, về bản chất, đặt câu hỏi sai (hoặc đặt câu hỏi sai cách). Họ có xu hướng sử dụng các thuật ngữ tìm kiếm hoặc lời nhắc AI đã chứng minh những gì họ đã nghĩ và các công cụ tìm kiếm và chatbot được thiết kế để cung cấp câu trả lời hẹp, cực kỳ phù hợp, được đưa ra trên các câu trả lời đó. “Các câu trả lời kết thúc về cơ bản chỉ xác nhận những gì họ tin ở nơi đầu tiên,” Leung nói.

Đọc thêm: AI Essentials: 29 cách để làm cho Gen AI hoạt động cho bạn, theo các chuyên gia của chúng tôi

Các nhà nghiên cứu cũng kiểm tra xem những người tham gia có thay đổi niềm tin của họ sau khi tiến hành tìm kiếm không. Khi được phục vụ một lựa chọn hẹp các câu trả lời mà phần lớn xác nhận niềm tin của họ, họ không có khả năng thấy những thay đổi đáng kể. Nhưng khi các nhà nghiên cứu cung cấp một công cụ tìm kiếm được xây dựng tùy chỉnh và chatbot được thiết kế để cung cấp một loạt các câu trả lời rộng hơn, họ có nhiều khả năng thay đổi.

Leung cho biết các nền tảng có thể cung cấp cho người dùng tùy chọn tìm kiếm rộng hơn, ít phù hợp hơn, điều này có thể chứng minh hữu ích trong các tình huống mà người dùng đang cố gắng tìm ra nhiều nguồn khác nhau. “Nghiên cứu của chúng tôi là không cố gắng đề xuất rằng các công cụ tìm kiếm hoặc thuật toán phải luôn mở rộng kết quả tìm kiếm của họ”, cô nói. “Tôi nghĩ rằng có rất nhiều giá trị trong việc cung cấp kết quả tìm kiếm rất tập trung và rất hẹp trong các tình huống nhất định.”

3 cách để đặt câu hỏi đúng

Nếu bạn muốn có một loạt các câu trả lời rộng hơn cho câu hỏi của bạn, có một số điều bạn có thể làm, Leung nói.

Chính xác: Hãy suy nghĩ cụ thể về chính xác những gì bạn đang cố gắng học. Leung đã sử dụng một ví dụ về việc cố gắng quyết định xem bạn có muốn đầu tư vào cổ phiếu của một công ty cụ thể hay không. Hỏi xem đó là một cổ phiếu tốt hoặc một cổ phiếu xấu để mua có thể sẽ làm lệch kết quả của bạn – tin tức tích cực hơn nếu bạn hỏi liệu nó có tin tốt, tiêu cực hơn nếu bạn hỏi liệu nó có xấu không. Thay vào đó, hãy thử một thuật ngữ tìm kiếm duy nhất, trung tính hơn. Hoặc hỏi cả hai điều khoản và đánh giá kết quả của từng điều khoản.

Nhận các chế độ xem khác: Đặc biệt với một chatbot AI, bạn có thể yêu cầu một loạt các quan điểm trực tiếp trong lời nhắc. Nếu bạn muốn biết liệu bạn có nên tiếp tục uống hai tách cà phê mỗi ngày không, hãy hỏi chatbot cho nhiều ý kiến ​​và bằng chứng đằng sau chúng. Các nhà nghiên cứu đã thử điều này trong một trong những thí nghiệm của họ và thấy họ có kết quả đa dạng hơn. “Chúng tôi đã yêu cầu TATGPT cung cấp các quan điểm khác nhau để trả lời truy vấn từ những người tham gia và cung cấp càng nhiều bằng chứng để sao lưu các khiếu nại đó càng tốt”, Leung nói.

Tại một số điểm, đừng hỏi: Các câu hỏi tiếp theo cũng không hoạt động tốt, Leung nói. Nếu những câu hỏi đó không nhận được câu trả lời rộng hơn, bạn có thể có được hiệu ứng ngược lại – thậm chí hẹp hơn, kết quả khẳng định. Trong nhiều trường hợp, những người hỏi nhiều câu hỏi tiếp theo chỉ “rơi sâu hơn vào hố thỏ”, cô nói.