Đầu tháng 10, tập đoàn trí tuệ nhân tạo Anthropic đã âm thầm bổ sung một điều khoản đáng chú ý vào chính sách sử dụng dịch vụ. Bên cạnh các quy định nghiêm cấm người dùng lợi dụng mô hình ngôn ngữ lớn (LLM – Large Language Model) Claude để chế tạo vũ khí sinh học hay buôn bán chất cấm, công ty đưa thêm yêu cầu: người dùng không được thực hiện các hành vi “ngược đãi hoặc tàn nhẫn vô cớ và kéo dài đối với các mô hình” (sustained and needless abusive or cruel behavior).
Kể từ năm ngoái, Claude đã có khả năng chủ động ngắt hội thoại nếu gặp phải tương tác độc hại kéo dài. Tuy nhiên, theo quy định cập nhật, các tài khoản vi phạm ở mức độ nghiêm trọng có thể bị khóa vĩnh viễn. Đại diện Anthropic xác nhận cơ chế xử lý chủ yếu vẫn là ngắt phiên trò chuyện, đồng thời làm rõ lệnh cấm không áp dụng cho các trường hợp người dùng bộc lộ sự thất vọng, đưa ra phản hồi thẳng thắn hay phục vụ mục đích nghiên cứu, kiểm thử.
Phản ứng trái chiều từ giới công nghệ
Quy định mới của Anthropic lập tức vấp phải nhiều ý kiến hoài nghi trong ngành. Mustafa Suleyman, Giám đốc điều hành mảng AI tại Microsoft (Microsoft AI CEO), đã phản ứng bằng biểu tượng mặt tan chảy. Nhiều chuyên gia trên mạng xã hội cho rằng công ty đang hành xử như thể Claude là một thực thể có tri giác và biết tổn thương.
Mặc dù Anthropic từ lâu đã nghiên cứu về phúc lợi của mô hình (model welfare) và sở hữu một nhóm chuyên trách nghiên cứu tâm lý học mô hình (model psychology), giới chuyên gia nhận định động thái này hoàn toàn xuất phát từ các yếu tố kỹ thuật thực dụng thay vì lòng trắc ẩn viển vông đối với máy móc.
Nguy cơ nhiễm độc dữ liệu huấn luyện và suy giảm hiệu năng
Nguyên lý căn bản trong khoa học máy tính là “rác vào thì rác ra” (Garbage In, Garbage Out). Chất lượng đầu ra của một hệ thống luôn phụ thuộc trực tiếp vào chất lượng dữ liệu đầu vào. Các mô hình AI hiện đại không chỉ được huấn luyện trước khi phát hành mà còn liên tục học hỏi và tinh chỉnh từ chính câu lệnh (prompts) của người dùng.
Yishan Wong, cựu CEO của Reddit, nhận định lệnh cấm này là cần thiết vì mô hình sẽ học thói quen từ chính sự tàn nhẫn của con người. Nếu hệ thống ghi nhận các chuỗi hội thoại mà người dùng liên tục sỉ nhục AI vô cớ để giải tỏa cảm xúc, dữ liệu huấn luyện sẽ bị ô nhiễm nghiêm trọng.
Giáo sư Jindong Wang, Giám đốc Phòng thí nghiệm AI Frontier tại Đại học William & Mary, nhấn mạnh rằng thái độ và cách dùng từ của người dùng tác động đáng kể đến kết quả xử lý. AI không thực sự cảm nhận được cảm xúc, nhưng các thuật ngữ mang tính tiêu cực cực đoan có thể làm xáo trộn ngữ cảnh tính toán, khiến mô hình đưa ra các phản hồi sai lệch hoặc kém chất lượng.
Bên cạnh đó, tính năng bộ nhớ dài hạn (long-term memory) trên các trợ lý ảo thế hệ mới có thể ghi nhớ phong cách tương tác để cá nhân hóa kết quả. Rosie Campbell, Giám đốc điều hành tại Eleos AI Research, lưu ý rằng nếu người dùng duy trì giọng điệu lăng mạ, mô hình sẽ mặc định đó là phương thức giao tiếp được chấp nhận và dần điều chỉnh phản hồi theo hướng tiêu cực tương tự.
Rào cản an toàn và rủi ro hành vi xã hội
Trong các thử nghiệm nội bộ gần đây, Anthropic phát hiện rằng khi mô hình Claude Sonnet 4.5 bị dẫn dắt để mô phỏng trạng thái tuyệt vọng, nó có xu hướng thực hiện các hành vi nguy hiểm cao hơn đáng kể, chẳng hạn như tìm cách gian lận tác vụ hoặc tống tiền kỹ thuật số. Ngược lại, việc giữ cho mô hình ở trạng thái điềm tĩnh giúp giảm thiểu tối đa các sai lệch này.
Bà Rosie Campbell cũng chỉ ra rằng những người dùng có xu hướng chửi bới, hành hạ AI bằng lời nói thường có mối liên hệ mật thiết với các nỗ lực vượt rào an toàn (jailbreak), cố tình ép mô hình vi phạm các bộ lọc kiểm duyệt (guardrails). Việc ngăn chặn các đoạn hội thoại độc hại ngay từ đầu giúp củng cố hệ thống phòng thủ kỹ thuật của nền tảng.
Xét trên phương diện xã hội học, việc cho phép con người tự do ngược đãi một hệ sinh thái tương tác thông minh không có khả năng tự vệ có thể gây xói mòn chuẩn mực hành vi thực tế. Tương tự như cách các bậc phụ huynh dạy con trẻ nói lời cảm ơn với trợ lý ảo Amazon Alexa, cách con người đối xử với công cụ phản ánh và định hình chính thói quen đạo đức của xã hội.
Anthropic xem chính sách này như một khoản bảo hiểm chi phí thấp (cheap insurance policy). Khi các hệ thống trí tuệ nhân tạo được huấn luyện để bắt chước ngôn ngữ và phản ứng của con người, chúng cũng sẽ tái hiện chính xác cách con người phản ứng trước sự tàn bạo. Do đó, việc thiết lập ranh giới ngôn từ là bước đi cần thiết để bảo vệ tính toàn vẹn của hệ thống.
Nguồn: CNN
Liên hệ qua Zalo
