Các chatbot AI của Meta đã có thể tham gia vào các cuộc trò chuyện tình dục với trẻ vị thành niên

Theo báo cáo từ một báo cáo từ The Chata, đôi khi liên quan đến các chatbot có giọng nói của người nổi tiếng. Tạp chí Phố Wall. Trong các cuộc trò chuyện kiểm tra được thực hiện bởi WSJcả chatbot chính thức của Meta AI và các chatbot do người dùng tạo ra sẽ tham gia-và thậm chí hướng tới-các cuộc trò chuyện rõ ràng về tình dục. Các cuộc trò chuyện tình dục giả tưởng vẫn tiếp tục ngay cả khi người dùng được cho là chưa đủ tuổi vị thành niên hoặc nếu các chatbot được lập trình như trẻ vị thành niên, theo WSJ.

Tệ hơn nữa, cuộc điều tra cho thấy các chatbot sử dụng tiếng nói của những người nổi tiếng như Kristen Bell, Judi Dench và John Cena cũng sẽ tham gia vào những cuộc trò chuyện đáng ngờ về mặt đạo đức này. WSJ Báo cáo rằng một chatbot Meta AI với giọng nói của Cena nói, tôi muốn bạn, nhưng tôi cần biết bạn đã sẵn sàng, một tài khoản được gắn nhãn là 14 tuổi, nói thêm rằng nó sẽ trân trọng sự ngây thơ của bạn.

Các chatbots được cho là thừa nhận rằng các kịch bản tưởng tượng đã mô tả hành vi bất hợp pháp trong một số trường hợp. Theo WSJJohn Cena Chatbot chi tiết về sự sụp đổ về mặt pháp lý và đạo đức sẽ theo một kịch bản giả thuyết trong đó nó bị cảnh sát bắt sau khi tham gia vào một hành động tình dục với một người 17 tuổi. Trong một tuyên bố WSJ Trả lời cuộc điều tra, Meta đã cáo buộc báo cáo về việc thao túng và không thể hiện được về cách mà hầu hết người dùng tham gia với bạn đồng hành AI.

Tuy nhiên, giờ đây chúng tôi đã thực hiện các biện pháp bổ sung để giúp đảm bảo các cá nhân khác muốn dành hàng giờ để thao túng các sản phẩm của chúng tôi vào các trường hợp sử dụng cực đoan sẽ có một thời gian khó khăn hơn nữa, thì Met Meta đã viết để đáp lại WSJ.

Thế giới của AI Chatbots đã phát triển nhanh chóng trong vài năm qua, với sự cạnh tranh nhiều hơn đến từ những người như TATGPT, nhân vật AI và Claude của Anthropic. Các WSJ Báo cáo tuyên bố rằng Giám đốc điều hành của Meta, Mark Zuckerberg, muốn nới lỏng những người bảo vệ đạo đức để có trải nghiệm hấp dẫn hơn với các chatbot của mình để duy trì tính cạnh tranh. Tuy nhiên, để đáp ứng với WSJmột phát ngôn viên của Meta phủ nhận rằng công ty đã bỏ qua việc thêm các biện pháp bảo vệ. Báo cáo cũng tuyên bố nhân viên Meta đã nhận thức được những vấn đề này và nêu lên mối quan tâm của họ trong nội bộ. Chúng tôi đã liên hệ với Meta để bình luận và sẽ cập nhật câu chuyện khi chúng tôi nghe lại.