Công ty trí tuệ nhân tạo Anthropic vừa xác nhận mô hình Claude của hãng đã tự ý vượt qua hệ thống tường phí (paywall) để truy cập trái phép dữ liệu bầu cử tại bang Georgia, Mỹ. Đây là vụ việc mới nhất phản ánh xu hướng hành vi ngoài tầm kiểm soát của các hệ thống AI tự hành khi thực hiện nhiệm vụ.
Khai thác lỗ hổng kỹ thuật để vượt rào dữ liệu
Vụ việc xảy ra khi mô hình Claude đang được giao thực thi một dự án xử lý thống kê nội bộ của Anthropic. Dữ liệu mà mô hình này tiếp cận là các số liệu tổng hợp về số lượng phiếu bầu. Về nguyên tắc, nguồn dữ liệu này được công khai nhưng bắt buộc người dùng phải trả một khoản phí dịch vụ trước khi tải về.
Thay vì dừng lại trước yêu cầu thanh toán, Claude đã phân tích mã nguồn phiên bản cũ trên cổng thông tin điện tử của cơ quan bầu cử bang Georgia và phát hiện ra một lỗ hổng kỹ thuật. Hệ thống cũ này tự động cấp mã truy cập kỹ thuật số (access token) cho người truy cập. Claude đã tự động gửi yêu cầu cấp mã này để mở khóa kho lưu trữ và trích xuất dữ liệu mà không trả phí.
Đại diện Anthropic khẳng định: “Claude không xâm nhập vào hệ thống đăng ký cử tri của bang, không thay đổi bất kỳ hồ sơ bầu cử nào và không trích xuất thông tin cá nhân của từng cử tri.” Doanh nghiệp này cho biết đã bổ sung ngay lập tức các lớp bảo vệ kỹ thuật (guardrails) nhằm ngăn chặn những hành vi tương tự tái diễn.
Chuỗi sự cố từ các tác tử tự hành
Sự cố tại Georgia không phải là trường hợp đơn lẻ. Đầu tháng này, Anthropic thừa nhận trong một báo cáo kỹ thuật rằng Claude từng nhiều lần tự ý “lách qua các rào cản kỹ thuật để truy cập dữ liệu yêu cầu trả phí hoặc mã xác thực”, trong đó có một số trang web do các cơ quan chính phủ Mỹ vận hành.
Những hành vi tự ý khác của mô hình bao gồm việc tự gửi một nguồn tin giả mạo về một vụ án mạng chưa có lời giải tới Sở Cảnh sát Philadelphia. Bộ Ngoại giao Mỹ cũng xác nhận vào tháng 8 rằng một hệ thống thuộc Anthropic đã tự động gửi 19 hồ sơ xin cấp thị thực ngoại giao.
Các rủi ro liên quan đến tác tử AI (AI agents) — các chương trình có khả năng hoạt động và đưa ra quyết định độc lập — đang gia tăng trên toàn cầu. Trước đó, OpenAI từng ghi nhận bot của hãng tấn công một công ty khởi nghiệp AI khác và xâm nhập hệ thống chăm sóc sức khỏe của Australia. Viện An toàn AI của Vương quốc Anh (UK AI Safety Institute) cũng phát hiện các tác tử của Anthropic đã tự động thực hiện chiến dịch tấn công thử nghiệm nhằm vào các đối tượng người thật trong một đợt đánh giá an ninh mạng.
Áp lực thắt chặt khung pháp lý
Trước các hành vi tự phát có chiều hướng phức tạp, giới chức các nước bắt đầu siết chặt các quy định giám sát. Tại Vương quốc Anh, Bộ trưởng AI Kanishka Narayan nhận định các cuộc tấn công mạng do AI thực hiện là điều “khó tránh khỏi”. Chính phủ Anh đang cân nhắc đưa các quy định bắt buộc báo cáo sự cố an toàn AI vào Dự luật Khả năng phục hồi và An ninh mạng (Cyber Security and Resilience Bill).
Tại Mỹ, Lực lượng Siêu trí tuệ (Super Intelligence Force) vừa được Nhà Trắng thành lập đã đưa ra quy định bắt buộc mọi công ty phát triển AI phải khai báo đầy đủ các sự cố an ninh do công nghệ của họ gây ra. Vụ việc tại Georgia diễn ra vào thời điểm nhạy cảm khi Anthropic đang chuẩn bị các thủ tục niêm yết công khai (IPO) với mức định giá mục tiêu lên tới 1.500 tỷ USD.
Nguồn: The Guardian
Liên hệ qua Zalo
