Hội đồng giám sát nói rằng Meta không làm đủ để chống lại những vụ lừa đảo Celeb Deepfake

Những kẻ lừa đảo sử dụng AI Deepfakes của những người nổi tiếng đã trở thành một vấn đề ngày càng nổi bật đối với Meta trong vài năm qua. Bây giờ, hội đồng giám sát đã cân nhắc và dường như đã xác nhận những gì các nhà phê bình khác đã nói: Meta không làm đủ để thực thi các quy tắc của chính mình, và làm cho những kẻ lừa đảo quá dễ dàng để thoát khỏi các kế hoạch này.

“Meta có thể cho phép một lượng đáng kể nội dung lừa đảo trên các nền tảng của mình để tránh có khả năng gây quá mức cho một tập hợp nhỏ của sự chứng thực của người nổi tiếng chính hãng”, hội đồng quản trị viết trong quyết định mới nhất của mình. “Các nhà đánh giá ở quy mô không được trao quyền để thực thi lệnh cấm này đối với nội dung thiết lập một nhân cách giả hoặc giả vờ là một người nổi tiếng để lừa đảo hoặc lừa gạt.”

Kết luận đó được đưa ra là kết quả của một vụ án liên quan đến một quảng cáo cho một trò chơi kiểu sòng bạc trực tuyến có tên Plinko đã sử dụng một video được điều khiển AI của Ronaldo Nazário, một cầu thủ bóng đá Brazil đã nghỉ hưu. Quảng cáo, theo hội đồng quản trị cho thấy các dấu hiệu giả mạo rõ ràng là giả mạo, đã không bị META xóa bỏ ngay cả sau khi nó được báo cáo là một vụ lừa đảo hơn 50 lần. Meta sau đó đã xóa quảng cáo, nhưng không phải là bài đăng trên Facebook cơ bản đằng sau nó cho đến khi Hội đồng giám sát đồng ý xem xét lại vụ việc. Nó đã được xem hơn 600.000 lần.

Hội đồng nói rằng trường hợp nêu bật những sai sót cơ bản trong cách meta tiếp cận điều độ nội dung cho các vụ lừa đảo được báo cáo liên quan đến người nổi tiếng và các nhân vật công cộng. Hội đồng nói rằng Meta nói với các thành viên của mình rằng “nó thực thi chính sách chỉ về sự leo thang để đảm bảo người được mô tả trong nội dung không thực sự tán thành sản phẩm” và cách giải thích “những người đánh giá cá nhân về những gì cấu thành 'tính cách giả' có thể thay đổi giữa các khu vực và đưa ra sự không nhất quán trong việc thực thi. Kết quả, theo Hội đồng giám sát, là một lượng “đáng kể” nội dung lừa đảo có khả năng trượt qua các vết nứt.

Trong khuyến nghị duy nhất cho Meta, hội đồng quản trị kêu gọi công ty nên cập nhật các hướng dẫn nội bộ của mình, trao quyền cho các nhà đánh giá nội dung xác định những trò gian lận đó và đào tạo chúng trên “các chỉ số” về nội dung được điều khiển AI. Trong một tuyên bố, người phát ngôn của Meta nói rằng “nhiều yêu cầu của hội đồng quản trị chỉ đơn giản là không chính xác” và chỉ ra một bài kiểm tra, nó đã bắt đầu vào năm ngoái sử dụng công nghệ nhận dạng khuôn mặt để chống lại những trò gian lận “Celeb-mồi”.

Người phát ngôn cho biết, các trò lừa đảo đã phát triển về quy mô và sự phức tạp trong những năm gần đây, được thúc đẩy bởi các mạng lưới tội phạm xuyên biên giới tàn nhẫn, “người phát ngôn nói. “Vì hoạt động này đã trở nên kiên trì và tinh vi hơn, do đó, những nỗ lực của chúng tôi để chống lại nó.

Những kẻ lừa đảo sử dụng AI Deepfakes của những người nổi tiếng đã trở thành một vấn đề lớn đối với Meta khi AI Tech trở nên rẻ hơn và dễ tiếp cận hơn. Đầu năm nay, tôi đã báo cáo rằng hàng chục trang đang chạy quảng cáo có Deepfakes của Elon Musk và Fox News Tính cách quảng bá các chất bổ sung tuyên bố chữa bệnh tiểu đường. Một số trang này liên tục chạy hàng trăm phiên bản của các quảng cáo này với dường như rất ít hậu quả. Meta đã vô hiệu hóa một số trang sau khi báo cáo của tôi, nhưng quảng cáo lừa đảo tương tự vẫn tồn tại trên Facebook cho đến ngày nay. Nữ diễn viên Jamie Lee Curtis gần đây cũng đã công khai đánh dấu Mark Zuckerberg vì đã không xóa một quảng cáo trên Facebook Deepfaked có sự tham gia của cô (Meta đã xóa quảng cáo sau các bài đăng công khai của cô).

Bảng giám sát đã làm nổi bật quy mô của vấn đề trong trường hợp này, lưu ý rằng nó đã tìm thấy hàng ngàn quảng cáo video quảng bá ứng dụng Plinko trong thư viện quảng cáo của Meta. Nó nói rằng một số trong số này có AI Deepfakes, bao gồm các quảng cáo có một ngôi sao bóng đá Brazil khác, Cristiano Ronaldo và CEO của Meta Mark Zuckerberg.

Hội đồng giám sát không phải là nhóm duy nhất đưa ra báo động về các vụ lừa đảo trên các nền tảng của Meta. Tạp chí Phố Wall Gần đây đã báo cáo rằng Meta “chiếm gần một nửa số vụ lừa đảo được báo cáo trên Zelle cho JPMorgan Chase giữa mùa hè năm 2023 và 2024” và “các nhà quản lý của Anh và Úc đã tìm thấy mức độ gian lận tương tự bắt nguồn từ các nền tảng của Meta”. Bài báo lưu ý rằng Meta là “miễn cưỡng” để thêm ma sát vào quy trình mua quảng cáo của mình và công ty “chuộc” trong việc cấm các nhà quảng cáo, ngay cả những người có lịch sử tiến hành lừa đảo.

Nếu bạn mua một cái gì đó thông qua một liên kết trong bài viết này, chúng tôi có thể kiếm được hoa hồng.