Tesla, công ty đã giải tán nhóm quan hệ công chúng của mình vào năm 2021, đã không trả lời yêu cầu bình luận của WIRED. Hệ thống camera mà các nhà nghiên cứu sử dụng trong thử nghiệm của họ được sản xuất bởi HP, Pelsee, Azdome, Imagebon và Rexing; không có công ty nào trong số đó phản hồi yêu cầu bình luận của WIRED.
Mặc dù NHTSA thừa nhận các vấn đề trong “một số hệ thống hỗ trợ người lái tiên tiến”, nhưng các nhà nghiên cứu vẫn nói rõ: Họ không chắc hiệu ứng ánh sáng khẩn cấp quan sát được này có liên quan gì đến các sự cố Autopilot của Tesla. Nassi nói: “Tôi không khẳng định rằng tôi biết lý do tại sao xe Tesla lại đâm vào xe cấp cứu. “Tôi không biết liệu đây có còn là một lỗ hổng hay không.”
Các thí nghiệm của các nhà nghiên cứu cũng chỉ liên quan đến việc phát hiện vật thể dựa trên hình ảnh. Nhiều nhà sản xuất ô tô sử dụng các cảm biến khác, bao gồm radar và lidar, để giúp phát hiện chướng ngại vật trên đường. Một nhóm nhỏ hơn các nhà phát triển công nghệ – trong số đó có Tesla – lập luận rằng các hệ thống dựa trên hình ảnh được tăng cường đào tạo trí tuệ nhân tạo phức tạp có thể không chỉ hỗ trợ hệ thống hỗ trợ người lái mà còn cả các phương tiện tự lái hoàn toàn. Tháng trước, Giám đốc điều hành Tesla, Elon Musk, cho biết hệ thống dựa trên tầm nhìn của hãng xe này sẽ cho phép xe tự lái vào năm tới.
Thật vậy, cách một hệ thống có thể phản ứng với đèn nhấp nháy phụ thuộc vào cách các nhà sản xuất ô tô thiết kế hệ thống lái tự động của họ. Một số có thể chọn “điều chỉnh” công nghệ của mình để phản ứng với những điều không hoàn toàn chắc chắn thực sự là trở ngại. Trong trường hợp cực đoan, lựa chọn đó có thể dẫn đến “dương tính giả”, chẳng hạn như một chiếc ô tô có thể phanh gấp khi phản ứng lại một hộp các tông hình trẻ mới biết đi. Những người khác có thể điều chỉnh công nghệ của họ để chỉ phản ứng khi nó rất tự tin rằng những gì nó nhìn thấy là một trở ngại. Ở phía bên kia của thái cực, sự lựa chọn đó có thể dẫn đến việc chiếc xe không phanh để tránh va chạm với một chiếc xe khác vì nó quên mất rằng đó hoàn toàn là một chiếc xe khác.
Các nhà nghiên cứu của BGU và Fujitsu đã đưa ra một bản sửa lỗi phần mềm cho vấn đề flasher khẩn cấp. Được gọi là “Caracetamol”—một từ ghép của “ô tô” và thuốc giảm đau “Paracetamol”—nó được thiết kế để tránh vấn đề “co giật” bằng cách được đào tạo đặc biệt để xác định các phương tiện có đèn nhấp nháy khẩn cấp. Các nhà nghiên cứu cho biết nó cải thiện độ chính xác của máy dò đối tượng.
Earlence Fernandes, trợ lý giáo sư khoa học máy tính và kỹ thuật tại Đại học California, San Diego, người không tham gia vào nghiên cứu, cho biết nó có vẻ “âm thanh”. Ông nói: “Giống như con người có thể bị mù tạm thời do đèn nháy khẩn cấp, một camera hoạt động bên trong hệ thống hỗ trợ người lái tiên tiến có thể bị mù tạm thời”.
Đối với nhà nghiên cứu Bryan Reimer, người nghiên cứu về tự động hóa và an toàn phương tiện tại MIT AgeLab, bài báo chỉ ra những câu hỏi lớn hơn về những hạn chế của hệ thống lái xe dựa trên AI. Ông nói, các nhà sản xuất ô tô cần “xác nhận mạnh mẽ, có thể lặp lại” để phát hiện ra những điểm mù như khả năng nhạy cảm với đèn khẩn cấp. Ông lo ngại một số nhà sản xuất ô tô đang “tiến triển công nghệ nhanh hơn mức họ có thể thử nghiệm”.
