Mô hình Whisper của OpenAI: Gợi mở về những ảo giác nguy hiểm

Theo một báo cáo mới, các nhà nghiên cứu đã phát hiện ra rằng công cụ phiên âm hỗ trợ âm thanh của OpenAI, Whisper, đang phát minh ra những điều chưa bao giờ được nói ra với những hậu quả nguy hiểm tiềm ẩn.

Theo APNewsmô hình AI đang phát minh ra văn bản (thường được gọi là 'ảo giác'), trong đó mô hình ngôn ngữ lớn phát hiện các mẫu không tồn tại trong tài liệu đào tạo của chính nó, do đó tạo ra những kết quả đầu ra vô nghĩa. Các nhà nghiên cứu Hoa Kỳ đã phát hiện ra rằng những sai lầm của Whisper có thể bao gồm bình luận về chủng tộc, bạo lực và các phương pháp điều trị y tế viển vông.