Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) đã tạo ra một làn sóng hình ảnh khiêu dâm trẻ em giả mạo, được tạo ra bằng công nghệ deepfake, đang lan truyền trên các nền tảng mạng xã hội và diễn đàn trực tuyến. Tại Nhật Bản, hệ thống pháp luật hiện hành chưa đủ khả năng để xử lý hiệu quả vấn đề này, đặt ra những thách thức lớn trong việc bảo vệ trẻ em và quyền riêng tư cá nhân.​

Nội dung giả (đôi khi gọi là nội dung tổng hợp) đã bùng nổ trong những năm gần đây, với nghiên cứu từ Amazon cho thấy tới 60% nội dung trên internet là do AI tạo ra. Không phải tất cả nội dung này đều là "deepfake", thuật ngữ chỉ những nội dung được thiết kế để trông cực kỳ lừa đảo.

Một nghiên cứu gần đây từ tổ chức từ thiện Thorn đã chỉ ra một mối đe dọa ngày càng gia tăng đối với trẻ em tại Mỹ, liên quan đến các hình ảnh khiêu dâm deepfake được tạo ra bởi trí tuệ nhân tạo (AI). Theo kết quả khảo sát, khoảng một trong tám thanh thiếu niên dưới 18 tuổi ở Mỹ cho biết, họ biết ai đó đã trở thành nạn nhân của các hình ảnh khiêu dâm deepfake, trong khi một trong 17 thanh thiếu niên đã trực tiếp trải qua “trải nghiệm” này.