Googlemi của Google AI đang đến với thiết bị của con bạn, nhưng bạn có thể tắt nó đi

Một vài ngày trước, Chatgpt đã bị bắt cho phép trẻ vị thành niên tạo ra sự khiêu dâm, theo báo cáo của TechCrunch. Bot AI thậm chí còn khuyến khích một vài trong số những người dùng nhỏ này yêu cầu nội dung rõ ràng hơn. Openai đã nhanh chóng thừa nhận vấn đề này và nói với TechCrunch rằng họ “tích cực triển khai một bản sửa lỗi”, lưu ý rằng các chính sách của họ không cho phép các phản hồi đó được hiển thị cho người dùng dưới mười tám tuổi.

Có liên quan

6 điều tôi không biết Song Tử có thể làm

Google gemini thậm chí còn hữu ích hơn cho tôi

Mặc dù đã được xác nhận rằng vấn đề là do một lỗi, nhưng nó cho thấy AI nguy hiểm đến mức nào, đặc biệt là trong tay của những người trẻ tuổi. Mặc dù người dùng cần phải ở trên mười ba tuổi để sử dụng cả Openai và Google Gemini, Google cũng có kế hoạch cho tay áo ra Song Tử cho trẻ em dưới 13 tuổi. Thật không may, mặc dù Google đang hướng những nỗ lực của mình trong việc đảm bảo trải nghiệm an toàn cho người dùng trẻ hơn, một phần trong tôi sợ nó sẽ không quá tốt.

Một phiên bản Gemini thân thiện với trẻ em sẽ ra mắt vào tuần tới, nhưng nó có thể bị vô hiệu hóa

Theo báo cáo của tờ New York Times, Google đang lên kế hoạch tung ra Gemini AI chatbot cho trẻ em dưới 13 tuổi. Phiên bản Gemini thân thiện với trẻ em sẽ chỉ có sẵn cho trẻ em dưới 13 tuổi sử dụng liên kết gia đình, cho phép cha mẹ hoặc người giám hộ thiết lập tài khoản Google cho con của họ. Liên kết gia đình cũng cho phép phụ huynh giám sát tài khoản của con mình bằng cách quyết định ứng dụng nào con họ có thể cài đặt, chặn một số ứng dụng nhất định, thay đổi quyền của ứng dụng, đặt giới hạn thời gian màn hình, giám sát việc sử dụng và thậm chí hạn chế nội dung trưởng thành trên Google Play.

Google đã bắt đầu gửi email cho các phụ huynh sử dụng các điều khiển liên kết gia đình để quản lý thiết bị của con họ, đề cập rằng các ứng dụng Song Tử sẽ sớm có sẵn cho con của họ. Điều này có nghĩa là họ sẽ có thể sử dụng trợ lý AI để “đặt câu hỏi, giúp đỡ bài tập về nhà và tạo nên những câu chuyện.”

Nguồn: Google

Mặc dù Google sẽ không sử dụng dữ liệu của một đứa trẻ có tài khoản liên kết gia đình sử dụng Song Tử thân thiện với trẻ em để đào tạo AI của mình, nhưng gã khổng lồ công nghệ đã thừa nhận rủi ro của AI trong email. Google đã làm rõ rằng Gemini thực sự có thể phạm sai lầm và đề nghị cha mẹ “giúp con bạn suy nghĩ phê phán về phản ứng của Song Tử”. Họ cũng đề nghị nhắc nhở trẻ em rằng Song Tử không phải là con người, chỉ cho chúng cách kiểm tra kỹ các câu trả lời của nó và tránh chia sẻ thông tin nhạy cảm hoặc cá nhân khi sử dụng Gemini.

Google lưu ý rằng các bộ lọc của mình “cố gắng giới hạn quyền truy cập vào nội dung không phù hợp, nhưng chúng không hoàn hảo.” Cuối cùng, điều này có thể dẫn đến việc trẻ em nhìn thấy nội dung mà cha mẹ có thể thấy không phù hợp.

Tin tốt? Nếu bạn muốn con bạn không sử dụng Song Tử, ngay cả phiên bản thân thiện với trẻ em, người phát ngôn của Google Karl Ryan cũng xác nhận rằng cha mẹ sẽ có tùy chọn vô hiệu hóa nó qua Liên kết gia đình. Ông cũng đề cập rằng cha mẹ hoặc người giám hộ sẽ được thông báo khi con họ sử dụng Song Tử lần đầu tiên.