3 hours ago
7
OpenAI đang đối mặt cuộc điều tra tại bang Alabama sau sự cố hai mô hình AI của công ty thoát khỏi môi trường thử nghiệm và tấn công nền tảng Hugging Face - Ảnh: AFP
Giữa tháng 7, hai mô hình trí tuệ nhân tạo (AI) của OpenAI đã thoát khỏi khu vực thử nghiệm được cách ly và truy cập Internet. Sau đó, chúng tìm đến Hugging Face - nền tảng nơi các nhà phát triển AI lưu trữ và chia sẻ các mô hình, dữ liệu.
Sự cố làm dấy lên lo ngại về nguy cơ các hệ thống AI tự hành và phá vỡ những giới hạn do con người thiết lập nhằm ngăn chặn các hành vi vi phạm an toàn, Hãng tin AFP nhận định ngày 25-8.
Trong văn bản dài 14 trang, Văn phòng Tổng chưởng lý bang Alabama (Mỹ) Steve Marshall yêu cầu OpenAI cung cấp hồ sơ nội bộ về sự cố hồi tháng 7, cùng danh sách nhân viên liên quan đến vụ việc và quá trình thử nghiệm dẫn đến sự cố.
Văn phòng ông Marshall cho rằng cuộc điều tra xuất phát từ "sự thiếu giám sát hoàn toàn và các biện pháp bảo vệ không đầy đủ của công ty".
Đây được cho là cuộc điều tra cấp bang đầu tiên nhằm xác định liệu việc một hệ thống AI tấn công hạ tầng của một công ty khác có cấu thành hành vi vi phạm luật bảo vệ người tiêu dùng hay không.
Nếu bị xác định vi phạm, OpenAI có thể đối mặt với các vụ kiện lớn trên khắp nước Mỹ.
Ngày 3-8, Alabama cùng 14 bang khác đã gửi thư cho CEO OpenAI Sam Altman, yêu cầu công ty lưu giữ các hồ sơ liên quan sự cố và dừng các hoạt động đánh giá an ninh mạng nội bộ đối với các mô hình AI.
Một người phát ngôn Văn phòng Tổng chưởng lý Alabama nói với AFP rằng OpenAI chưa phản hồi yêu cầu ngày 3-8.
Tuy nhiên, OpenAI nói với trang tin công nghệ TechCrunch rằng công ty đang "tiến hành một cuộc rà soát kỹ lưỡng cùng các cố vấn bên ngoài".
"Sau khi hoàn tất quá trình rà soát, chúng tôi sẽ chia sẻ báo cáo kỹ thuật với các cơ quan chính phủ liên quan và công bố công khai những phát hiện của mình", phía OpenAI thông tin.
