Mối đe dọa ngày càng gia tăng của hình ảnh khiêu dâm Deepfake đối với trẻ em: Nghiên cứu mới của Thorn

Một nghiên cứu gần đây từ tổ chức từ thiện Thorn đã chỉ ra một mối đe dọa ngày càng gia tăng đối với trẻ em tại Mỹ, liên quan đến các hình ảnh khiêu dâm deepfake được tạo ra bởi trí tuệ nhân tạo (AI). Theo kết quả khảo sát, khoảng một trong tám thanh thiếu niên dưới 18 tuổi ở Mỹ cho biết, họ biết ai đó đã trở thành nạn nhân của các hình ảnh khiêu dâm deepfake, trong khi một trong 17 thanh thiếu niên đã trực tiếp trải qua “trải nghiệm” này.

Thorn, tổ chức chuyên chống lại sự phát tán các tài liệu lạm dụng tình dục trẻ em trên internet, đã tiến hành khảo sát 1.200 người trong độ tuổi từ 13 đến 20 để làm rõ mức độ nguy hiểm của deepfake AI. Phần lớn các nạn nhân trong các vụ việc này là những cô gái và phụ nữ thanh thiếu niên.

Melissa Stroebel, người đứng đầu bộ phận nghiên cứu của Thorn, chia sẻ rằng “Điều này có nghĩa là mỗi cộng đồng đều đang phải đối mặt với vấn đề này, và đã đến lúc chúng ta phải hành động và đáp ứng như một xã hội”. Cô còn cho biết rằng nếu nhìn vào một lớp học trung học phổ thông, số lượng nạn nhân của các hình ảnh deepfake sẽ tương đương với số lượng hình ảnh deepfake trong mỗi lớp học.

Ảnh: Internet

Sự tăng trưởng của công nghệ AI Và những tác hại đối với trẻ em

Công nghệ AI ngày càng phát triển và dễ dàng tiếp cận, giúp việc tạo ra và chia sẻ các hình ảnh khiêu dâm deepfake trở nên phổ biến hơn bao giờ hết. Điều này đặc biệt nguy hiểm đối với giới trẻ, vì các hình ảnh này có thể bị sử dụng để xâm phạm quyền riêng tư và gây tổn thương tâm lý cho các nạn nhân.

Cuộc khảo sát của Thorn cũng chỉ ra rằng khoảng một phần năm số người tham gia tự nhận mình là người LGBTQ+, một nhóm đối tượng dễ bị tấn công qua các hình ảnh giả mạo này. Đặc biệt, có một sự gia tăng mạnh mẽ trong các trường hợp hình ảnh khiêu dâm deepfake bị phát tán trong các trường học. Ví dụ, tại Trường Trung học Westfield ở New Jersey, những cậu bé tạo ra và phát tán các hình ảnh này gần như không phải chịu bất kỳ hình phạt nào. Trong khi đó, một vụ việc khác tại Trường Lancaster Country Day ở Pennsylvania đã dẫn đến việc hai cậu bé bị cáo buộc tạo ra các hình ảnh deepfake của gần như tất cả các cô gái trong trường và hiện đang đối mặt với các cáo buộc hình sự.

Chính sách và giải pháp pháp lý

Một trong những giải pháp pháp lý đang được thảo luận để giải quyết vấn đề này là “Đạo luật Take It Down”, dự luật đã được thông qua tại Thượng viện Mỹ vào đầu tháng 3 năm 2024. Nếu được thông qua, dự luật này sẽ coi việc công khai các hình ảnh riêng tư mà không có sự đồng ý, bao gồm cả deepfakes, là hành vi phạm tội. Đồng thời, các nền tảng chia sẻ hình ảnh sẽ có trách nhiệm gỡ bỏ các hình ảnh này trong vòng 48 giờ, nếu không có thể phải đối mặt với các khoản phạt tài chính từ Ủy ban Thương mại Liên bang (FTC).

Dorota Mani, một người mẹ có con gái là nạn nhân của deepfake vào cuối năm 2023, chia sẻ rằng cô không bất ngờ trước sự gia tăng của vấn đề này. “Tôi không mong đợi điều gì khác trừ khi chúng ta làm gì đó về vấn đề này”, Dorota nói. Cô cũng đã lên kế hoạch gặp các quan chức tại Washington D.C. để thúc đẩy sự thông qua của dự luật này.

Ảnh: Internet

Tăng cường giáo dục và hành động của các trường học

Chính quyền, các tổ chức bảo vệ quyền lợi trẻ em và các trường học cần phối hợp để giáo dục trẻ em về hậu quả của việc tạo ra và chia sẻ các hình ảnh khiêu dâm deepfake. Dorota Mani cho biết: “Giờ đây, hơn bao giờ hết, việc giáo dục trẻ em về hậu quả và sự tham gia của các trường học trong cuộc trò chuyện này là vô cùng quan trọng”.

Với sự phát triển của công nghệ AI và những nguy cơ mà nó mang lại, hành động nhanh chóng và mạnh mẽ từ phía xã hội và các cơ quan chức năng là rất cần thiết để bảo vệ trẻ em khỏi mối đe dọa ngày càng lớn này.