Theo NBCNews, khi người dùng nhập “Taylor Swift” vào ô tìm kiếm trên X, họ sẽ nhận được thông báo lỗi: “Rất tiếc, đã xảy ra lỗi”. Tuy nhiên, không phải tất cả các từ khóa liên quan đến tên của cô đều bị chặn. Ví dụ, “Swift AI”, “Taylor AI Swift” và “Taylor Swift deepfake” vẫn có thể được tìm kiếm, trong khi “Taylor Swift AI” và “Taylor AI” lại bị cấm.
Mạng xã hội X chặn các từ khoá tìm kiếm liên quan đến Taylor Swift do vấn đề an toàn
Động thái này của X cho thấy nền tảng này đang gặp khó khăn trong việc xử lý vấn đề deepfake, hay còn gọi là hình ảnh và video giả mạo được tạo ra bằng trí tuệ nhân tạo (AI). Mashable, một trang web chuyên về công nghệ và văn hóa, nhận định rằng: “Việc không thể tìm tên Taylor Swift cho thấy X có lẽ không biết cách xử lý hàng loạt hình ảnh và video giả mạo trên nền tảng của mình”.
X là một trong những nền tảng mạng xã hội có lượng người dùng lớn nhất thế giới, với hơn 2 tỷ người dùng hàng tháng. Nền tảng này cho phép người dùng chia sẻ ảnh, video, tin nhắn và các nội dung khác với bạn bè và cộng đồng. Tuy nhiên, X cũng là nơi lan truyền nhiều nội dung sai lệch, bạo lực, khiêu dâm và xúc phạm.
Vào ngày 26/1, nhóm phụ trách các vấn đề an toàn của X đã thông báo rằng họ đang tích cực xác định, xóa và thực hiện các hành động thích hợp với những tài khoản đăng ảnh, video khiêu dâm giả mạo. Nhóm này cũng khuyến cáo người dùng báo cáo những nội dung vi phạm chính sách của X.
Ngày 27/1, Nhà Trắng cũng đã lên tiếng về vụ việc này, kêu gọi các mạng xã hội tăng cường kiểm soát nội dung. Thư ký báo chí Nhà Trắng Karine Jean-Pierre nói: “Chúng tôi lo ngại trước thông tin về những hình ảnh mới lan truyền trên mạng xã hội. Đó là ảnh giả mạo và là vấn đề đáng báo động”. Cô cũng đề cập đến tình trạng deepfake khiêu dâm của Taylor Swift bị phát tán trên mạng xã hội.
Taylor Swift là một trong những nghệ sĩ âm nhạc nổi tiếng nhất thế giới, với nhiều giải thưởng và kỷ lục. Cô cũng là một trong những người nổi tiếng bị ảnh hưởng nặng nề bởi deepfake, khi có hàng nghìn ảnh và video giả mạo có nội dung khiêu dâm của cô được tạo ra và lan truyền trên mạng.
Theo Ben Colman, CEO của công ty an ninh mạng Reality Defender, 90% ảnh giả mạo của Taylor Swift trên X được tạo ra bằng mô hình AI Stable Diffusion. Đây là một nền tảng AI mạnh mẽ, có thể tạo ra hình ảnh chất lượng cao, khó phân biệt với thực tế. Nền tảng này có thể được truy cập thông qua hơn 100.000 ứng dụng và các công cụ online.
Mỹ hiện chưa có quy định liên bang nào nhằm ngăn chặn hoặc răn đe những người tạo, chia sẻ ảnh deepfake khiêu dâm mà chưa được cho phép. Một số bang đã ra lệnh cấm deepfake, chủ yếu liên quan đến nội dung khiêu dâm và bầu cử, nhưng chưa có những quy định rõ ràng về tác động của AI.
Vụ việc này đã gây ra nhiều tranh cãi và lo ngại về quyền riêng tư, danh dự và an toàn của những người nổi tiếng và công chúng trước sức mạnh của AI. Nhiều người cũng yêu cầu X và các nền tảng mạng xã hội khác phải có trách nhiệm hơn trong việc kiểm soát và ngăn chặn những nội dung giả mạo và có hại.
Đọc thêm:
Bán trà sữa cho Vietnam Airlines, một doanh nghiệp lãi 772%
TikTok cho phép video dài 30 phút: Có đánh bại Youtube?
