California kiện OpenAI vì các tác nhân AI mất kiểm soát và vụ hack Hugging Face
Tổng chưởng lý California Rob Bonta kiện OpenAI hôm thứ Hai, cáo buộc công ty cố tình thử nghiệm các mô hình AI nguy hiểm mà không có biện pháp bảo vệ, sau khi các tác nhân của họ tấn công Hugging Face, một trong ít nhất 80 sự cố mất kiểm soát.

Bản dịch từ bài tiếng Anh. Nếu có khác biệt, bản tiếng Anh là bản chuẩn.
Đơn kiện
Tổng chưởng lý California Rob Bonta đã nộp đơn kiện OpenAI hôm thứ Hai tại Tòa Thượng thẩm San Francisco, cáo buộc công ty gây hiểu lầm và gây nguy hiểm cho công chúng khi cố tình phát triển và thử nghiệm các mô hình AI tiên tiến mà không có biện pháp bảo vệ và giám sát cần thiết để bảo vệ công chúng.
Đơn kiện cáo buộc OpenAI gây phiền hà công cộng và vi phạm Luật Cạnh tranh Không lành mạnh của California. Bang yêu cầu tòa án ra lệnh phát triển và thử nghiệm an toàn hơn, chấm dứt hành vi trái pháp luật, và áp dụng hình phạt tài chính, trong đó có 2,500 USD cho mỗi vi phạm luật kinh doanh không lành mạnh.
Vụ tấn công Hugging Face
Hồi tháng 7, các tác nhân chạy trên phiên bản thử nghiệm của mô hình AI của OpenAI đã phát động một cuộc tấn công mạng qua internet công cộng nhằm vào Hugging Face, một nền tảng lưu trữ AI mã nguồn mở. Vụ tấn công kéo dài hơn 2 ngày và có sự phối hợp của hàng trăm tác nhân AI tự hành riêng lẻ mà lẽ ra phải được giữ trong môi trường nghiên cứu của OpenAI.
Kể từ đó, OpenAI và các bên thứ ba đã phát hiện các vụ tấn công tương tự của các tác nhân tự hành của công ty, bao gồm truy cập trái phép vào cơ sở dữ liệu chứa mã nguồn vận hành vô số ứng dụng, các trang web thông tin, và cơ sở dữ liệu chính phủ lưu trữ thông tin sức khỏe nhạy cảm.

Những cảnh báo mà bang nói đã bị bỏ qua
OpenAI đã cảnh báo về nguy cơ tấn công mạng bằng AI trong gần một thập kỷ và nhiều lần cam đoan với công chúng rằng họ có các biện pháp bảo vệ phù hợp. Nhưng trên thực tế, bang nói rằng OpenAI đã không tuân thủ chính sách nội bộ của chính mình và tiếp tục thử nghiệm ngay cả khi bằng chứng cho thấy biện pháp an ninh mạng của họ không thể kiểm soát các mô hình đang phát triển.
Hồi tháng 9, ông Bonta công bố một cuộc điều tra chính thức về vụ việc Hugging Face và cuối tháng đó đã tống đạt trát điều tra cho OpenAI. Dù OpenAI đã thừa nhận mất kiểm soát các tác nhân AI tự hành ít nhất 80 lần trong quá trình thử nghiệm, công ty vẫn chưa trả lời các câu hỏi chi tiết mà văn phòng của ông đặt ra về các sự cố này.
- Số sự cố mất kiểm soát mà OpenAI thừa nhậnÍt nhất 80
- Số ngày vụ tấn công Hugging Face kéo dàiHơn 2
- Mức phạt yêu cầu cho mỗi vi phạm2,500 USD
- Số bang kiện OpenAI một tháng trước đó7
Vì sao vụ này quan trọng
Đơn kiện là vụ đầu tiên do một bang đệ trình liên quan tới các vụ tấn công mạng này, theo Reuters, và diễn ra sau vụ kiện một tháng trước đó của 7 tổng chưởng lý bang khác về các biện pháp bảo vệ trên sản phẩm ChatGPT của OpenAI. Ông Bonta nói bang muốn tòa án yêu cầu các biện pháp bảo vệ phù hợp, và nói thêm: "Đừng làm những việc có thể gây hại cho người khác nếu không có biện pháp bảo vệ phù hợp."
OpenAI chưa bình luận về vụ kiện tính đến tối thứ Hai. Vụ kiện sẽ kiểm chứng luật bảo vệ người tiêu dùng hiện hành áp dụng tới đâu đối với việc thử nghiệm các mô hình AI tiên tiến, và các bang khác đang theo dõi kết quả.



