Một doanh nhân Singapore đã bị lừa mất tới 38 triệu USD sau khi tham gia cuộc họp trực tuyến Zoom có sử dụng công nghệ deepfake để giả mạo Thủ tướng Lawrence Wong cùng nhiều lãnh đạo doanh nghiệp cấp cao. Vụ việc đang gây chấn động quốc đảo này và làm dấy lên lo ngại về mức độ tinh vi ngày càng nguy hiểm của các vụ lừa đảo sử dụng trí tuệ nhân tạo.

Trước làn sóng phản đối từ dư luận và các tổ chức bảo vệ quyền riêng tư, Meta – công ty mẹ của Facebook, Instagram và Threads – đã chính thức ra tay.

Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) đã tạo ra một làn sóng hình ảnh khiêu dâm trẻ em giả mạo, được tạo ra bằng công nghệ deepfake, đang lan truyền trên các nền tảng mạng xã hội và diễn đàn trực tuyến. Tại Nhật Bản, hệ thống pháp luật hiện hành chưa đủ khả năng để xử lý hiệu quả vấn đề này, đặt ra những thách thức lớn trong việc bảo vệ trẻ em và quyền riêng tư cá nhân.​

Nội dung giả (đôi khi gọi là nội dung tổng hợp) đã bùng nổ trong những năm gần đây, với nghiên cứu từ Amazon cho thấy tới 60% nội dung trên internet là do AI tạo ra. Không phải tất cả nội dung này đều là "deepfake", thuật ngữ chỉ những nội dung được thiết kế để trông cực kỳ lừa đảo.

Một nghiên cứu gần đây từ tổ chức từ thiện Thorn đã chỉ ra một mối đe dọa ngày càng gia tăng đối với trẻ em tại Mỹ, liên quan đến các hình ảnh khiêu dâm deepfake được tạo ra bởi trí tuệ nhân tạo (AI). Theo kết quả khảo sát, khoảng một trong tám thanh thiếu niên dưới 18 tuổi ở Mỹ cho biết, họ biết ai đó đã trở thành nạn nhân của các hình ảnh khiêu dâm deepfake, trong khi một trong 17 thanh thiếu niên đã trực tiếp trải qua “trải nghiệm” này.