Giáo sư Stanford bị buộc tội sử dụng AI để viết lời khai của chuyên gia chỉ trích deepfake

Trong một điều có vẻ là một sự hớ hênh đáng xấu hổ và mỉa mai, một giáo sư hàng đầu của Đại học Stanford đã bị buộc tội truyền bá thông tin sai lệch do AI tạo ra trong khi làm nhân chứng chuyên môn ủng hộ một đạo luật được thiết kế để ngăn chặn thông tin sai lệch do AI tạo ra khỏi các cuộc bầu cử.

Jeff Hancock, giám đốc sáng lập Phòng thí nghiệm truyền thông xã hội của Stanford, đã gửi ý kiến ​​chuyên môn của mình vào đầu tháng này trong vụ Kohls kiện Ellison, một vụ kiện do YouTuber và đại diện bang Minnesota đệ trình, người cho rằng luật mới của bang hình sự hóa việc sử dụng deepfake để gây ảnh hưởng đến vi phạm bầu cử quyền tự do ngôn luận theo Tu chính án thứ nhất của họ.

Ý kiến ​​của ông bao gồm việc đề cập đến một nghiên cứu được cho là “ngay cả khi các cá nhân được thông báo về sự tồn tại của deepfake, họ vẫn có thể gặp khó khăn trong việc phân biệt giữa nội dung thật và nội dung bị thao túng”. Nhưng theo luật sư của nguyên đơn, nghiên cứu mà Hancock đã trích dẫn—có tiêu đề “Ảnh hưởng của video Deepfake đến thái độ và hành vi chính trị” và được đăng trên Tạp chí Công nghệ thông tin & Chính trị—không thực sự tồn tại.

“Trích dẫn mang dấu ấn của một 'ảo giác' trí tuệ nhân tạo (AI), cho thấy rằng ít nhất trích dẫn được tạo ra bởi một mô hình ngôn ngữ lớn như ChatGPT,” các nguyên đơn viết trong một động thái tìm cách loại trừ ý kiến ​​​​chuyên môn của Hancock. “Các nguyên đơn không biết làm thế nào ảo giác này lại xuất hiện trong tuyên bố của Hancock, nhưng nó khiến toàn bộ tài liệu bị nghi ngờ, đặc biệt khi phần lớn bình luận không chứa bất kỳ phương pháp luận hay logic phân tích nào.”

Những cáo buộc về việc Hancock sử dụng AI lần đầu tiên được đưa ra bởi Minnesota Reformer. Hancock đã không trả lời ngay lập tức yêu cầu bình luận của Gizmodo.

Minnesota là một trong 20 bang đã thông qua luật quy định việc sử dụng deepfake trong các chiến dịch chính trị. Luật của nước này nghiêm cấm việc cố ý hoặc hành động thiếu thận trọng để phổ biến một nội dung giả mạo sâu tối đa 90 ngày trước cuộc bầu cử nếu tài liệu được tạo ra mà không có sự đồng ý của người được mô tả và nhằm mục đích ảnh hưởng đến kết quả của cuộc bầu cử.

Vụ kiện thách thức luật này được đệ trình bởi một công ty luật bảo thủ thay mặt cho Đại diện bang Minnesota Mary Franson và Christopher Kohls, một YouTuber có tên là ông Reagan.

Một vụ kiện do Kohls đệ trình thách thức luật giả mạo bầu cử của California đã dẫn đến việc một thẩm phán liên bang ban hành lệnh sơ bộ vào tháng trước ngăn cản luật đó có hiệu lực.