Deepfake khiêu dâm - cơn ác mộng với phụ nữ

Thế Anh

(Dân trí) - Đối tượng chính bị ảnh hưởng bởi công nghệ deepfake là các nữ diễn viên, người mẫu hoặc nữ ca sĩ nổi tiếng.

Trí tuệ nhân tạo đang được ứng dụng trong nhiều công việc khác nhau, như sáng tạo nghệ thuật, thử quần áo trong phòng thay đồ ảo hay giúp thiết kế các chiến dịch quảng cáo.

Deepfake khiêu dâm - cơn ác mộng với phụ nữ - 1

Những nội dung khiêu dâm được tạo ra từ deepfake đã bắt đầu lan truyền trên Internet từ vài năm trước.

Tuy nhiên, mặt trái mà công nghệ này mang lại cũng đang khiến cho không ít chuyên gia cảm thấy lo ngại. Deepfake được biết đến là các video, hình ảnh được tạo ra hay chỉnh sửa bằng trí tuệ nhân tạo hoặc máy học.

Những nội dung khiêu dâm được tạo ra từ deepfake đã bắt đầu lan truyền trên Internet từ vài năm trước, sau khi một người dùng Reddit sử dụng công nghệ này để ghép khuôn mặt một nữ diễn viên nổi tiếng vào đầu của các diễn viên khiêu dâm. Các chuyên gia cho biết vấn đề trên càng trở nên nghiêm trọng khi việc tiếp cận công nghệ deepfake dễ dàng hơn.

"Công nghệ sẽ liên tục phát triển và trở nên dễ sử dụng hơn. Vì thế, không ít người sẽ có thể lạm dụng công nghệ này để gây hại cho người khác thông qua bạo lực tình dục trực tuyến, nội dung khiêu dâm deepfake và hình ảnh khỏa thân giả", Adam Dodge, người sáng lập EndTAB, nhận định.

Noelle Martin, 28 tuổi, sống tại Perth, Australia là một nạn nhân của công nghệ deepfake. Trong một lần, Martin đã tò mò và thử tìm kiếm hình ảnh của bản thân trên Google. Kết quả hiển thị đã khiến cô vô cùng ngạc nhiên và kinh hãi.

Martin nói rằng cô không biết ai đã tạo ra những hình ảnh và video giả mạo cảnh cô quan hệ tình dục. Cô nghi ngờ rằng một người nào đó đã sử dụng các hình ảnh mà cô chia sẻ trên mạng xã hội và biến chúng thành phim khiêu dâm.

Deepfake khiêu dâm - cơn ác mộng với phụ nữ - 2

Đối tượng chính bị ảnh hưởng bởi công nghệ deepfake là các nữ diễn viên, người mẫu hoặc nữ ca sĩ nổi tiếng.

Martin đã phải tự mình liên hệ với hàng loạt trang web trong thời gian dài để xóa những nội dung đó nhưng không thành công. Sau cùng, cô phải nhờ đến sự bảo vệ của pháp luật địa phương. Tuy nhiên, Internet là môi trường không biên giới và mỗi quốc gia lại có các quy định khác nhau nên việc gỡ bỏ các hình ảnh giả mạo là điều không đơn giản.

Một báo cáo do công ty AI DeepTrace Labs thực hiện vào năm 2019 cho biết đối tượng chính bị ảnh hưởng bởi công nghệ deepfake là các nữ diễn viên, người mẫu hoặc nữ ca sĩ nổi tiếng.

Hiện tại, một số công ty phát triển AI cho biết họ đã hạn chế quyền truy cập của trí tuệ nhân tạo vào các hình ảnh khiêu dâm. OpenAI nói rằng họ đã xóa nội dung khiêu dâm khỏi dữ liệu được sử dụng để đào tạo công cụ tạo hình ảnh Dall-E. Điều này nhằm hạn chế khả năng người dùng tạo ra các loại hình ảnh đó.

Midjourney - một mô hình trí thông minh nhân tạo khác, đã chặn việc sử dụng một số từ khóa nhất định, đồng thời khuyến khích người dùng gắn cờ các hình ảnh có vấn đề cho người kiểm duyệt.

Theo www.scmp.com