“Sự lan truyền của những hình ảnh này đã gây tổn hại cho vô số phụ nữ và trẻ em gái trên khắp thế giới,” David Chiu, luật sư thành phố San Francisco, người đã khởi kiện vụ kiện chống lại một nhóm các trang web nổi tiếng có trụ sở tại Estonia, Serbia, Vương quốc Anh và nhiều nơi khác, cho biết.

“Những hình ảnh này được sử dụng để bắt nạt, làm nhục và đe dọa phụ nữ và trẻ em gái,” ông nói trong một cuộc phỏng vấn với hãng tin AP. “Và tác động của chúng đến các nạn nhân là rất nghiêm trọng, ảnh hưởng đến danh tiếng, sức khỏe tâm lý, và trong một số trường hợp, khiến một số người có ý định tự tử.”

Vụ kiện này được đệ trình thay mặt cho người dân California, cáo buộc rằng các dịch vụ này đã vi phạm nhiều luật của bang, bao gồm các hoạt động kinh doanh lừa đảo, phát tán nội dung khiêu dâm không có sự đồng ý và lạm dụng tình dục trẻ em. Tuy nhiên, việc xác định ai đứng sau các ứng dụng này là một thách thức lớn, vì chúng không có trên các cửa hàng ứng dụng điện thoại nhưng vẫn có thể dễ dàng tìm thấy trên internet.

Khi được liên hệ vào cuối năm ngoái, một trong những dịch vụ này cho biết qua email rằng “Giám đốc điều hành của chúng tôi hiện đang ở Hoa Kỳ và di chuyển nhiều nơi trong nước,” nhưng không cung cấp bất kỳ bằng chứng nào hay trả lời các câu hỏi khác. AP đã quyết định không nêu tên cụ thể các ứng dụng đang bị kiện để tránh việc vô tình quảng bá cho chúng.

“Hiện có một số trang web mà chúng tôi chưa biết rõ ai là người điều hành và họ đang hoạt động từ đâu, nhưng chúng tôi có các công cụ điều tra và quyền triệu tập để tìm hiểu,” Chiu cho biết. “Và chúng tôi chắc chắn sẽ sử dụng quyền lực của mình trong suốt quá trình tố tụng này.”

Những công cụ trí tuệ nhân tạo này đang bị lạm dụng để tạo ra các hình ảnh “khỏa thân” giả mạo từ ảnh của phụ nữ trưởng thành, bao gồm cả người nổi tiếng, mà không có sự đồng ý của họ. Đáng lo ngại hơn, chúng cũng đã xuất hiện trong các trường học trên toàn cầu, từ Úc đến Beverly Hills ở California. Tại những nơi này, các nam sinh sử dụng công cụ AI để tạo ra các hình ảnh khiêu dâm giả mạo của bạn nữ cùng lớp và sau đó phát tán rộng rãi qua mạng xã hội.

Một trong những vụ việc đầu tiên được công bố rộng rãi xảy ra vào tháng 9 năm ngoái tại Almendralejo, Tây Ban Nha. Một bác sĩ có con gái là nạn nhân trong vụ việc đã đóng vai trò quan trọng trong việc đưa sự việc ra ánh sáng. Bà cảm thấy hài lòng với mức án nghiêm khắc mà các học sinh phải đối mặt sau phán quyết của tòa án vào mùa hè này.

Tuy nhiên, bà cũng nhấn mạnh rằng trách nhiệm không chỉ thuộc về xã hội, giáo dục, cha mẹ và nhà trường, mà còn thuộc về các công ty công nghệ lớn đang thu lợi từ những công cụ này. “Các công ty công nghệ lớn cần phải chịu trách nhiệm về việc này,” Tiến sĩ Miriam al Adib Mendiri chia sẻ trong một cuộc phỏng vấn.

Bà hoan nghênh hành động của San Francisco nhưng nhấn mạnh rằng cần có thêm nhiều nỗ lực từ các công ty lớn như Meta và công ty con WhatsApp, nơi những hình ảnh giả mạo này đã được lan truyền ở Tây Ban Nha.

Trong khi các trường học và cơ quan thực thi pháp luật đã cố gắng trừng phạt những người tạo ra và chia sẻ những hình ảnh giả mạo này, việc xử lý các công cụ tạo ra chúng vẫn là một vấn đề nan giải.

Vào tháng 1, một lá thư từ cơ quan hành pháp của Liên minh châu Âu gửi đến một thành viên Nghị viện châu Âu cho biết rằng ứng dụng được sử dụng ở Almendralejo “không nằm trong phạm vi” các quy định mới của khối về an toàn trực tuyến, vì nó không phải là một nền tảng đủ lớn.

Các tổ chức đã theo dõi sự gia tăng của nội dung lạm dụng tình dục trẻ em do AI tạo ra sẽ theo dõi sát sao vụ kiện tại San Francisco này.

Vụ kiện “có tiềm năng tạo ra tiền lệ pháp lý trong lĩnh vực này,” Emily Slifer, giám đốc chính sách tại tổ chức Thorn, một tổ chức hoạt động chống lại sự khai thác tình dục trẻ em, cho biết.

Một nhà nghiên cứu tại Đại học Stanford cho biết, vì nhiều bị cáo có trụ sở bên ngoài Hoa Kỳ, việc đưa họ ra trước công lý sẽ gặp nhiều khó khăn.

Chiu “đang đối mặt với một trận chiến khó khăn với vụ kiện này, nhưng có thể sẽ thành công trong việc đưa một số trang web offline nếu các bị cáo phớt lờ vụ kiện,” Riana Pfefferkorn từ Stanford nói.

Bà cho biết điều đó có thể xảy ra nếu thành phố thắng kiện mặc định do các bị cáo không ra tòa, và nhận được các lệnh tác động đến các nhà cung cấp dịch vụ tên miền, dịch vụ web và xử lý thanh toán “khiến các trang web này phải đóng cửa ngay cả khi chủ sở hữu của chúng không xuất hiện trong vụ kiện.”

Tham khảo Fortune