Google Pixel 9 tung công cụ ‘Reimagine’: Thỏa mãn khả năng sáng tạo với xác tàu, thảm họa và xác chết vào ảnh!

Công cụ 'Reimagine' mới của Google, có sẵn trên điện thoại Pixel 9, đang mở rộng ranh giới của nội dung do AI tạo ra. Công cụ mạnh mẽ này cho phép người dùng thêm nhiều yếu tố khác nhau vào ảnh của họ, bao gồm các cảnh gây khó chịu như xác tàu, thảm họa và thậm chí là xác chết. Mặc dù công nghệ đằng sau 'Reimagine' rất ấn tượng, nhưng nó làm dấy lên mối lo ngại nghiêm trọng về khả năng sử dụng sai mục đích và tạo ra hình ảnh gây hiểu lầm.

Công cụ 'Reimagine' sử dụng các thuật toán AI tiên tiến để tích hợp liền mạch các yếu tố mới vào các bức ảnh hiện có. Những người ở The Verge có thể lựa chọn từ nhiều tùy chọn, chẳng hạn như thêm một vụ tai nạn xe hơi vào cảnh đường phố hoặc chèn một tòa nhà bị thảm họa vào cảnh quan thành phố. Trong tuần thử nghiệm, họ đã thêm các vụ tai nạn xe hơi, bom khói ở nơi công cộng, tấm vải trông giống như chúng che xác chết đẫm máu và dụng cụ ma túy vào hình ảnh. Việc này không khó lắm.

Google đã triển khai các chính sách và hướng dẫn về nội dung để ngăn chặn việc sử dụng sai công cụ 'Reimagine', cấm tạo ra nội dung có hại hoặc phản cảm. Tuy nhiên, hiệu quả của các biện pháp bảo vệ này vẫn chưa chắc chắn vì công cụ này không có hình mờ hoặc dấu hiệu rõ ràng cho thấy hình ảnh được tạo ra bằng AI. Việc không có nhãn rõ ràng này khiến việc phát hiện nội dung bị thao túng trực tuyến ngày càng trở nên khó khăn hơn.

Công cụ 'Reimagine' có ý nghĩa quan trọng đối với việc lan truyền thông tin sai lệch. Khi nội dung do AI tạo ra trở nên tinh vi và dễ tiếp cận hơn, khả năng hình ảnh gây hiểu lầm lan truyền trực tuyến cũng tăng lên.

The Verge đã yêu cầu Google bình luận và người phát ngôn của công ty Alex Moriconi đã trả lời:

Pixel Studio và Magic Editor là những công cụ hữu ích giúp bạn mở khóa khả năng sáng tạo của mình bằng cách tạo văn bản thành hình ảnh và chỉnh sửa ảnh nâng cao trên các thiết bị Pixel 9. Chúng tôi thiết kế các công cụ AI tạo sinh của mình để tôn trọng mục đích của lời nhắc của người dùng và điều đó có nghĩa là chúng có thể tạo ra nội dung có thể gây khó chịu khi được người dùng yêu cầu làm như vậy. Tuy nhiên, không phải mọi thứ đều được chấp nhận. Chúng tôi đã làm rõ chính sách Và Điều khoản dịch vụ về loại nội dung chúng tôi cho phép và không cho phép, và xây dựng các rào cản để ngăn chặn việc lạm dụng. Đôi khi, một số lời nhắc có thể thách thức các rào cản của các công cụ này và chúng tôi vẫn cam kết liên tục cải thiện và tinh chỉnh các biện pháp bảo vệ mà chúng tôi đã áp dụng.

Nguồn hình ảnh: The Verge