OpenAI vừa thông báo tạm dừng khả năng tạo video mô phỏng nhà hoạt động dân quyền Martin Luther King Jr. bằng mô hình AI Sora. Quyết định này được đưa ra sau khi một số người dùng Sora tạo ra những hình ảnh thiếu tôn trọng đối với nhân vật lịch sử này, theo yêu cầu từ gia đình của Tiến sĩ King.
Công ty cho biết, dù có những lợi ích về quyền tự do ngôn luận trong việc khắc họa các nhân vật lịch sử, OpenAI tin rằng những nhân vật công chúng và gia đình họ nên có quyền kiểm soát cách thức hình ảnh của mình được sử dụng. Những người đại diện được ủy quyền hoặc chủ sở hữu tài sản có thể yêu cầu không sử dụng hình ảnh của họ trong các sản phẩm của Sora.
Biện pháp hạn chế này xuất hiện không lâu sau khi OpenAI ra mắt Sora, một nền tảng cho phép người dùng tạo ra các video AI chân thực, mô phỏng các nhân vật lịch sử, bạn bè hoặc những người dùng khác đồng ý tái hiện hình ảnh của họ. Sự ra đời của Sora đã châm ngòi cho các cuộc tranh luận sôi nổi về những rủi ro tiềm ẩn của video do AI tạo ra và cách các nền tảng nên thiết lập các rào cản an toàn cho công nghệ này.
Tiến sĩ Bernice King, con gái của Tiến sĩ King, đã bày tỏ sự không hài lòng trên Instagram tuần trước, kêu gọi mọi người ngừng gửi cho bà các video AI mô phỏng cha mình. Bà cũng chung tay với con gái của Robin Williams trong lời kêu gọi tương tự đối với các video AI về cha cô.
Trước đó, tờ The Washington Post đã đưa tin về việc người dùng Sora tạo ra các video AI về Tiến sĩ King thực hiện các hành động thiếu nghiêm túc, thậm chí tương tác với biểu tượng dân quyền khác là Malcolm X. Việc lướt qua ứng dụng Sora của OpenAI cho thấy dễ dàng tìm thấy các video thô sơ mô phỏng các nhân vật lịch sử khác như họa sĩ Bob Ross, ca sĩ Whitney Houston và cựu Tổng thống John F. Kennedy.
Ngoài vấn đề về cách Sora thể hiện con người, việc ra mắt nền tảng này còn đặt ra nhiều câu hỏi về cách các mạng xã hội xử lý các video AI liên quan đến tác phẩm có bản quyền. Ứng dụng Sora cũng chứa đựng nhiều video mô phỏng các nhân vật hoạt hình như SpongeBob, South Park và Pokémon.
OpenAI đã thêm nhiều hạn chế khác cho Sora trong những tuần gần đây. Đầu tháng 10, công ty đã công bố kế hoạch trao cho chủ sở hữu bản quyền quyền kiểm soát chi tiết hơn về các loại video AI có thể được tạo ra bằng hình ảnh của họ. Động thái này có thể là phản ứng trước sự đón nhận ban đầu không mấy tích cực từ Hollywood đối với Sora.
Trong khi OpenAI siết chặt các quy định với Sora, công ty dường như đang có cách tiếp cận thoáng hơn trong việc kiểm duyệt nội dung trên ChatGPT. OpenAI thông báo sẽ cho phép người dùng trưởng thành có các cuộc trò chuyện “khiêu dâm” với ChatGPT trong những tháng tới.
Với Sora, OpenAI đang phải vật lộn với những mối lo ngại đi kèm với việc tạo video bằng AI. Một số nhà nghiên cứu của OpenAI đã công khai bày tỏ sự trăn trở về sản phẩm này và cách nó phù hợp với sứ mệnh của một tổ chức phi lợi nhuận. CEO Sam Altman của OpenAI thừa nhận công ty cảm thấy “lo ngại” về Sora ngay trong ngày ra mắt.
Việc OpenAI tạm dừng tạo video Martin Luther King Jr. bằng Sora cho thấy sự nhạy cảm ngày càng tăng và nỗ lực của công ty trong việc cân bằng giữa đổi mới công nghệ và trách nhiệm đạo đức, đặc biệt khi đối mặt với những tác động tiềm tàng của AI đối với hình ảnh và di sản của các nhân vật quan trọng. Đây là một bài học quan trọng trong việc quản lý rủi ro và xây dựng niềm tin khi triển khai các công nghệ mạnh mẽ.
