Trong hai tuần qua, nền tảng X đã trở thành tâm điểm của một cuộc khủng hoảng nghiêm trọng khi hàng loạt ảnh nhạy cảm bị thao túng bởi AI, được tạo ra từ chatbot Grok AI, tràn ngập mạng xã hội. Những hình ảnh này, được tạo ra mà không có sự đồng thuận, đã ảnh hưởng đến một loạt phụ nữ, từ các người mẫu, diễn viên nổi tiếng, đến các nhân vật tin tức, nạn nhân tội phạm và thậm chí cả các nhà lãnh đạo thế giới. Mức độ lan truyền của chúng đáng báo động: một nghiên cứu từ Copyleaks vào ngày 31 tháng 12 ước tính có khoảng một hình ảnh được đăng mỗi phút, và các thử nghiệm sau đó vào ngày 5-6 tháng 1 còn cho thấy con số này lên tới 6.700 mỗi giờ trong suốt 24 giờ.
Sự bùng phát này đã phơi bày một thách thức lớn đối với các cơ quan quản lý toàn cầu, khi họ đối mặt với việc thiếu các cơ chế rõ ràng để kiểm soát hệ thống thao túng hình ảnh mới của Elon Musk. Đây là một bài học đắt giá về giới hạn của quy định công nghệ và là thách thức mang tính dài hạn cho các nhà lập pháp. Đáng chú ý, một báo cáo gần đây từ CNN còn cho rằng chính Elon Musk có thể đã đích thân can thiệp để ngăn chặn các biện pháp bảo vệ được áp dụng đối với những hình ảnh mà Grok có thể tạo ra, làm dấy lên nhiều lo ngại về trách nhiệm và đạo đức.
Trước tình hình đó, Ủy ban Châu Âu đã có động thái quyết liệt nhất, yêu cầu xAI giữ lại tất cả tài liệu liên quan đến chatbot Grok. Dù đây chưa phải là một cuộc điều tra chính thức, nhưng nó thường là tiền đề cho các hành động pháp lý mạnh mẽ hơn. Về phía X, không rõ liệu họ đã thực hiện bất kỳ thay đổi kỹ thuật nào đối với mô hình Grok hay chưa, dù tab phương tiện công khai của tài khoản Grok trên X đã bị gỡ bỏ. Công ty cũng đã lên tiếng phản đối việc sử dụng các công cụ AI để sản xuất hình ảnh lạm dụng tình dục trẻ em, khẳng định rằng bất kỳ ai sử dụng hoặc yêu cầu Grok tạo ra nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như việc tải lên nội dung đó.
Trong khi đó, các cơ quan quản lý trên khắp thế giới cũng đã đưa ra những cảnh báo nghiêm khắc. Cơ quan quản lý Ofcom của Vương quốc Anh đang tiến hành đánh giá nhanh chóng để xác định các vấn đề tuân thủ tiềm ẩn, với sự ủng hộ hoàn toàn từ Thủ tướng Keir Starmer. Tại Úc, Ủy viên An toàn điện tử Julie Inman-Grant ghi nhận số lượng khiếu nại liên quan đến Grok đã tăng gấp đôi và văn phòng của bà sẽ sử dụng các công cụ pháp lý để điều tra. Tuy nhiên, thị trường lớn nhất đe dọa hành động là Ấn Độ, nơi Grok đã trở thành đối tượng của một khiếu nại chính thức từ một thành viên Quốc hội. Cơ quan quản lý truyền thông MeitY của Ấn Độ đã yêu cầu X giải quyết vấn đề và nộp báo cáo hành động trong 72 giờ, một hạn chót đã được gia hạn. Nếu MeitY không hài lòng với phản hồi, X có thể mất trạng thái an toàn pháp lý (safe harbor status) tại Ấn Độ, điều này sẽ hạn chế nghiêm trọng khả năng hoạt động của họ trong nước.
Sự bùng nổ của ảnh nhạy cảm do Grok AI tạo ra trên X đã phơi bày một lỗ hổng đáng báo động trong quản lý công nghệ toàn cầu và đặt ra câu hỏi lớn về trách nhiệm của các nhà phát triển AI. Khi các công nghệ ngày càng tiên tiến, việc thiết lập các khuôn khổ pháp lý chặt chẽ và biện pháp bảo vệ hiệu quả không chỉ là cần thiết mà còn là cấp bách để bảo vệ người dùng khỏi những tác hại không thể chấp nhận được. Đây là một lời nhắc nhở rõ ràng rằng sự đổi mới phải đi đôi với đạo đức và trách nhiệm xã hội.
