“Ác mộng” của nhiều nữ sinh khi bị bạn học cùng lớp dùng công cụ AI tạo ảnh khỏa thân

Thứ Ba, 20/08/24 2:00 Chiều
Nhiều công cụ này đang được sử dụng để tạo ra những hình ảnh giả mạo “khỏa thân” từ các bức ảnh của phụ nữ trưởng thành, bao gồm cả người nổi tiếng, mà không có sự đồng ý của họ.

Gần một năm sau khi một cộng đồng nhỏ ở miền nam Tây Ban Nha bị sốc bởi những hình ảnh khỏa thân giả mạo được tạo ra bởi AI, 15 học sinh vị thành niên đã bị tòa án tuyên phạt với mức án một năm quản chế. Tuy nhiên, công cụ AI được sử dụng để tạo ra những hình ảnh này vẫn dễ dàng truy cập trên internet, cho phép người dùng “lột đồ” bất kỳ bức ảnh nào chỉ trong vài giây.

Hiện nay, một nỗ lực mới nhằm đóng cửa ứng dụng này và các ứng dụng tương tự đang được tiến hành tại California, Mỹ. Thành phố San Francisco vừa đệ trình một vụ kiện, lần đầu tiên thuộc loại này, trong tuần này. Các chuyên gia cho rằng vụ kiện có thể tạo ra một tiền lệ pháp lý quan trọng, nhưng cũng sẽ đối mặt với nhiều thách thức.

"Ác mộng" của nhiều nữ sinh khi bị bạn học cùng lớp dùng công cụ AI tạo ảnh khỏa thân- Ảnh 1.
Ảnh minh họa

“Sự lan truyền của những hình ảnh này đã gây tổn hại cho vô số phụ nữ và trẻ em gái trên khắp thế giới,” David Chiu, luật sư thành phố San Francisco, người đã khởi kiện vụ kiện chống lại một nhóm các trang web nổi tiếng có trụ sở tại Estonia, Serbia, Vương quốc Anh và nhiều nơi khác, cho biết.

“Những hình ảnh này được sử dụng để bắt nạt, làm nhục và đe dọa phụ nữ và trẻ em gái,” ông nói trong một cuộc phỏng vấn với hãng tin AP. “Và tác động của chúng đến các nạn nhân là rất nghiêm trọng, ảnh hưởng đến danh tiếng, sức khỏe tâm lý, và trong một số trường hợp, khiến một số người có ý định tự tử.”

Vụ kiện này được đệ trình thay mặt cho người dân California, cáo buộc rằng các dịch vụ này đã vi phạm nhiều luật của bang, bao gồm các hoạt động kinh doanh lừa đảo, phát tán nội dung khiêu dâm không có sự đồng ý và lạm dụng tình dục trẻ em. Tuy nhiên, việc xác định ai đứng sau các ứng dụng này là một thách thức lớn, vì chúng không có trên các cửa hàng ứng dụng điện thoại nhưng vẫn có thể dễ dàng tìm thấy trên internet.

Khi được liên hệ vào cuối năm ngoái, một trong những dịch vụ này cho biết qua email rằng “Giám đốc điều hành của chúng tôi hiện đang ở Hoa Kỳ và di chuyển nhiều nơi trong nước,” nhưng không cung cấp bất kỳ bằng chứng nào hay trả lời các câu hỏi khác. AP đã quyết định không nêu tên cụ thể các ứng dụng đang bị kiện để tránh việc vô tình quảng bá cho chúng.

“Hiện có một số trang web mà chúng tôi chưa biết rõ ai là người điều hành và họ đang hoạt động từ đâu, nhưng chúng tôi có các công cụ điều tra và quyền triệu tập để tìm hiểu,” Chiu cho biết. “Và chúng tôi chắc chắn sẽ sử dụng quyền lực của mình trong suốt quá trình tố tụng này.”

Những công cụ trí tuệ nhân tạo này đang bị lạm dụng để tạo ra các hình ảnh “khỏa thân” giả mạo từ ảnh của phụ nữ trưởng thành, bao gồm cả người nổi tiếng, mà không có sự đồng ý của họ. Đáng lo ngại hơn, chúng cũng đã xuất hiện trong các trường học trên toàn cầu, từ Úc đến Beverly Hills ở California. Tại những nơi này, các nam sinh sử dụng công cụ AI để tạo ra các hình ảnh khiêu dâm giả mạo của bạn nữ cùng lớp và sau đó phát tán rộng rãi qua mạng xã hội.

Một trong những vụ việc đầu tiên được công bố rộng rãi xảy ra vào tháng 9 năm ngoái tại Almendralejo, Tây Ban Nha. Một bác sĩ có con gái là nạn nhân trong vụ việc đã đóng vai trò quan trọng trong việc đưa sự việc ra ánh sáng. Bà cảm thấy hài lòng với mức án nghiêm khắc mà các học sinh phải đối mặt sau phán quyết của tòa án vào mùa hè này.

Tuy nhiên, bà cũng nhấn mạnh rằng trách nhiệm không chỉ thuộc về xã hội, giáo dục, cha mẹ và nhà trường, mà còn thuộc về các công ty công nghệ lớn đang thu lợi từ những công cụ này. “Các công ty công nghệ lớn cần phải chịu trách nhiệm về việc này,” Tiến sĩ Miriam al Adib Mendiri chia sẻ trong một cuộc phỏng vấn.

Bà hoan nghênh hành động của San Francisco nhưng nhấn mạnh rằng cần có thêm nhiều nỗ lực từ các công ty lớn như Meta và công ty con WhatsApp, nơi những hình ảnh giả mạo này đã được lan truyền ở Tây Ban Nha.

Trong khi các trường học và cơ quan thực thi pháp luật đã cố gắng trừng phạt những người tạo ra và chia sẻ những hình ảnh giả mạo này, việc xử lý các công cụ tạo ra chúng vẫn là một vấn đề nan giải.

Vào tháng 1, một lá thư từ cơ quan hành pháp của Liên minh châu Âu gửi đến một thành viên Nghị viện châu Âu cho biết rằng ứng dụng được sử dụng ở Almendralejo “không nằm trong phạm vi” các quy định mới của khối về an toàn trực tuyến, vì nó không phải là một nền tảng đủ lớn.

Các tổ chức đã theo dõi sự gia tăng của nội dung lạm dụng tình dục trẻ em do AI tạo ra sẽ theo dõi sát sao vụ kiện tại San Francisco này.

Vụ kiện “có tiềm năng tạo ra tiền lệ pháp lý trong lĩnh vực này,” Emily Slifer, giám đốc chính sách tại tổ chức Thorn, một tổ chức hoạt động chống lại sự khai thác tình dục trẻ em, cho biết.

Một nhà nghiên cứu tại Đại học Stanford cho biết, vì nhiều bị cáo có trụ sở bên ngoài Hoa Kỳ, việc đưa họ ra trước công lý sẽ gặp nhiều khó khăn.

Chiu “đang đối mặt với một trận chiến khó khăn với vụ kiện này, nhưng có thể sẽ thành công trong việc đưa một số trang web offline nếu các bị cáo phớt lờ vụ kiện,” Riana Pfefferkorn từ Stanford nói.

Bà cho biết điều đó có thể xảy ra nếu thành phố thắng kiện mặc định do các bị cáo không ra tòa, và nhận được các lệnh tác động đến các nhà cung cấp dịch vụ tên miền, dịch vụ web và xử lý thanh toán “khiến các trang web này phải đóng cửa ngay cả khi chủ sở hữu của chúng không xuất hiện trong vụ kiện.”

Tham khảo Fortune

Thực tập sinh DeepSeek nhận lương lên tới 34 triệu đồng/tháng: Thời đại AI mở ra 3 xu hướng ngành nghề, lương cao nhưng có bền vững?
Thực tập sinh DeepSeek nhận lương lên tới 34 triệu đồng/tháng: Thời đại AI mở ra 3 xu hướng ngành nghề, lương cao nhưng có bền vững?

Sự bùng nổ của trí tuệ nhân tạo (AI) đã và đang mở ra nhiều cơ hội nghề nghiệp hấp dẫn với mức thu nhập đáng...

Theo: Đời sống và Pháp luật
Ứng dụng xem tuổi làm nhà Bói bài Tarot mới hàng ngày

TIN CÙNG CHUYÊN MỤC

ĐƯỢC QUAN TÂM

TIN MỚI:

Đang yên ổn thì bố thông báo tìm người thừa kế khiến cả nhà náo loạn, tới ngày bố chia xong tài sản, tôi mới hiểu nỗi khổ của ông

Đang yên ổn thì bố thông báo tìm người thừa kế khiến cả nhà náo loạn, tới ngày bố chia xong tài sản, tôi mới hiểu nỗi khổ của ông

Thứ Hai, 21/04/25 12:59 Chiều
Bố nói xong, anh Trung và chị Huệ đều nhận ngay lập tức. Tôi biết bố đã trăn trở băn khoăn rất nhiều. Cửa tiệm gỗ của gia...
Thực phẩm kích thích mọc tóc con, chống rụng tóc, là món yêu thích của Phạm Băng Băng để nuôi dưỡng mái tóc

Thực phẩm kích thích mọc tóc con, chống rụng tóc, là món yêu thích của Phạm Băng Băng để nuôi dưỡng mái tóc

Thứ Hai, 21/04/25 12:55 Chiều
Ngoài việc chăm sóc tóc thông qua các sản phẩm chăm sóc tóc, bạn cũng có thể cải thiện mái tóc của mình bằng cách lựa chọn "thực...
Trong vòng 3 tháng anh trai tôi mất gần 80 triệu vì bị bạn gái "đào mỏ bằng chiêu thức mới", thế nhưng cuối cùng cô ta cũng nhận về cái kết của thiên trả địa hết

Trong vòng 3 tháng anh trai tôi mất gần 80 triệu vì bị bạn gái “đào mỏ bằng chiêu thức mới”, thế nhưng cuối cùng cô ta cũng nhận về cái kết của thiên trả địa hết

Thứ Hai, 21/04/25 12:49 Chiều
Mai Anh có những chiêu trò phải nói là tinh vi, sáng táo và mới lạ để đào mỏ. Tôi vẫn còn nhớ rõ cái ngày anh trai...
Về quê đột ngột, thấy bố nằm thở khò khè trên giường, mẹ thì không có nhà, chồng tôi lao vào, mặt tái mét kêu lên một tiếng thương tâm

Về quê đột ngột, thấy bố nằm thở khò khè trên giường, mẹ thì không có nhà, chồng tôi lao vào, mặt tái mét kêu lên một tiếng thương tâm

Chủ Nhật, 20/04/25 10:55 Chiều
Nghe đến đây, chồng tôi không chịu được nữa. Anh lập tức đưa bố lên ô tô, mặc cho ông phản đối. 2 vợ chồng tôi đều tất...
Check camera, thấy anh hàng xóm bế vợ tôi lên giường rồi gọi điện thoại cho ai đó, khi trở về nhà tôi vội mang quà sang cảm ơn

Check camera, thấy anh hàng xóm bế vợ tôi lên giường rồi gọi điện thoại cho ai đó, khi trở về nhà tôi vội mang quà sang cảm ơn

Chủ Nhật, 20/04/25 10:55 Chiều
Bao lâu nay, tôi luôn lo lắng cho vợ và rồi cuối cùng ngày đó cũng đã đến. Ngày đưa bạn gái về ra mắt, bố tôi tinh...
Nhật Bản tiết lộ 5 điều đơn giản giúp họ sống lâu trăm tuổi, bất ngờ là nhiều người Việt đang làm mỗi ngày mà không hề biết

Nhật Bản tiết lộ 5 điều đơn giản giúp họ sống lâu trăm tuổi, bất ngờ là nhiều người Việt đang làm mỗi ngày mà không hề biết

Chủ Nhật, 20/04/25 10:45 Chiều
Điều đáng mừng là phần lớn các “bí quyết vàng” giúp người Nhật trường thọ đã và đang hiện diện trong văn hóa sống của người Việt. Tính...
"Gieo quẻ" tháng 5 cho 12 con giáp: Người công việc lên hương, kẻ được Thần Tài chiếu cố, tiền bạc lẫn tình yêu đều thăng hoa

“Gieo quẻ” tháng 5 cho 12 con giáp: Người công việc lên hương, kẻ được Thần Tài chiếu cố, tiền bạc lẫn tình yêu đều thăng hoa

Chủ Nhật, 20/04/25 9:13 Chiều
Thần Tài gõ cửa, tình tiền lên hương: 12 con giáp tháng 5 được "quẻ" nào dẫn đường? Bước vào tháng 5 – tháng của khởi đầu mùa...
Tử vi ngày mới 21/4: 2 con giáp tiền bạc dồi dào, công việc hanh thông, 1 con giáp cẩn thận "tiền mất tật mang"

Tử vi ngày mới 21/4: 2 con giáp tiền bạc dồi dào, công việc hanh thông, 1 con giáp cẩn thận “tiền mất tật mang”

Chủ Nhật, 20/04/25 1:41 Chiều
Tử vi ngày mới tiết lộ 3 con giáp này có biến động vận số đặc biệt. Tử vi ngày 21/4 hé lộ nhiều chuyển biến đáng chú...
Đồ hiệu Made in China: Pha dắt mũi mang tầm quốc tế, người giàu không tin, vậy ai tin?

Đồ hiệu Made in China: Pha dắt mũi mang tầm quốc tế, người giàu không tin, vậy ai tin?

Chủ Nhật, 20/04/25 11:01 Sáng
Trào lưu “bóc mẽ đồ hiệu” của loạt nhà xưởng Trung Quốc có lẽ đang khiến các thương hiệu thời trang xa xỉ và tín đồ đích thực…...
3 lọ kem chống nắng bình dân tôi ưng nhất từ trước đến giờ

3 lọ kem chống nắng bình dân tôi ưng nhất từ trước đến giờ

Chủ Nhật, 20/04/25 10:13 Sáng
Rất thích bôi kem chống nắng bình dân, tôi đã tìm ra 3 loại khiến mình muốn dùng mãi không thôi. Tôi không thích theo đuổi một quy...
Gội đầu xong dùng thêm 3 sản phẩm này, sẽ giúp tóc đẹp như tạo kiểu ở spa

Gội đầu xong dùng thêm 3 sản phẩm này, sẽ giúp tóc đẹp như tạo kiểu ở spa

Chủ Nhật, 20/04/25 9:57 Sáng
Bạn hoàn toàn có thể dưỡng tóc đẹp tại nhà chỉ với 3 sản phẩm đơn giản ngay sau khi gội đầu. Mái tóc là 1 trong những...
5 biện pháp biến da chảy xệ thành săn chắc, trẻ măng

5 biện pháp biến da chảy xệ thành săn chắc, trẻ măng

Chủ Nhật, 20/04/25 9:57 Sáng
Chị em nên tham khảo những cách khắc phục tình trạng da chảy xệ khá đơn giản sau đây. Có nhiều cách để điều trị và ngăn ngừa...
Bói bài Tarot mới hàng ngày Ứng dụng xem tuổi làm nhà