Cơ quan quản lý Vương quốc Anh muốn cấm các ứng dụng có thể tạo ra hình ảnh khỏa thân của Deepfake về trẻ em

Theo một báo cáo mới, Ủy viên Trẻ em của Vương quốc Anh đang kêu gọi cấm các ứng dụng AI Deepfake tạo ra hình ảnh khỏa thân hoặc tình dục của trẻ em, theo một báo cáo mới. Nó nói rằng các ứng dụng “khỏa thân” như vậy đã trở nên phổ biến đến mức nhiều cô gái đã ngừng đăng ảnh lên phương tiện truyền thông xã hội. Và mặc dù việc tạo hoặc tải lên hình ảnh CSAM là bất hợp pháp, các ứng dụng được sử dụng để tạo hình ảnh khỏa thân Deepfake vẫn còn hợp pháp.

“Trẻ em đã nói với tôi rằng chúng sợ hãi bởi chính ý tưởng về công nghệ này thậm chí còn có sẵn, chứ đừng nói đến việc sử dụng. Chúng sợ rằng bất cứ ai – một người lạ, bạn cùng lớp hoặc thậm chí là một người bạn – có thể sử dụng điện thoại thông minh như một cách thao túng chúng bằng cách tạo ra một hình ảnh khỏa thân bằng cách sử dụng các ứng dụng bespoke này.” Ủy viên trẻ em cho biết Dame Rachel de Souza cho biết. “Không có lý do tích cực cho những (ứng dụng) này tồn tại.”

De Souza chỉ ra rằng các ứng dụng AI khỏa thân có sẵn rộng rãi trên các nền tảng chính, bao gồm các công cụ tìm kiếm và cửa hàng ứng dụng lớn nhất. Đồng thời, họ “nhắm vào các cô gái và phụ nữ trẻ không tương xứng, và nhiều công cụ chỉ xuất hiện để làm việc trên cơ thể nữ”. Cô nói thêm rằng những người trẻ tuổi đang yêu cầu hành động để hành động chống lại việc lạm dụng các công cụ đó.

Cuối cùng, De Souza đang kêu gọi chính phủ đưa ra lệnh cấm hoàn toàn đối với các ứng dụng sử dụng trí tuệ nhân tạo để tạo ra Deepfakes rõ ràng về tình dục. Cô cũng muốn chính phủ tạo ra trách nhiệm pháp lý cho các nhà phát triển ứng dụng Genai để xác định rủi ro sản phẩm của họ gây ra cho trẻ em, thiết lập các hệ thống hiệu quả để loại bỏ CSAM khỏi Internet và nhận ra lạm dụng tình dục Deepfake như một hình thức bạo lực đối với phụ nữ và trẻ em gái.

Vương quốc Anh đã thực hiện các bước để cấm công nghệ như vậy bằng cách giới thiệu các tội phạm hình sự mới để sản xuất hoặc chia sẻ Deepfakes rõ ràng về tình dục. Nó cũng tuyên bố ý định biến nó thành một hành vi phạm tội nếu một người chụp ảnh hoặc video thân mật mà không có sự đồng ý. Tuy nhiên, Ủy viên Trẻ em tập trung cụ thể hơn vào tác hại mà công nghệ như vậy có thể gây ra cho những người trẻ tuổi, lưu ý rằng có một mối liên hệ giữa lạm dụng Deepfake và ý tưởng tự tử và PTSD, như Người bảo vệ chỉ ra.

“Ngay cả trước khi bất kỳ cuộc tranh cãi nào xuất hiện, tôi đã có thể biết nó sẽ được sử dụng để làm gì, và nó sẽ không phải là điều tốt. Tôi có thể nói rằng đó sẽ là một kỳ quan công nghệ sẽ bị lạm dụng”, một cô gái 16 tuổi được ủy viên khảo sát.

Tại Hoa Kỳ, huyết mạch phòng chống tự tử quốc gia là 1-800-273-8255 hoặc bạn có thể chỉ cần quay số 988. Dòng văn bản khủng hoảng có thể đạt được bằng cách nhắn tin về nhà tới 741741 (Hoa Kỳ), 686868 (Canada), hoặc 85258 (Anh). Wikipedia duy trì một danh sách các dòng khủng hoảng cho những người bên ngoài các quốc gia đó.