El contenido sexualmente explícito generado por IA se ha extendido desde que ChatGPT trajo inteligencia artificial generativa a la corriente principal. Las compañías tecnológicas han corrido para construir mejores herramientas de fotos y videos de IA, y algunas personas están usando las herramientas para hacer daño. Según Powell, hay 9.000 sitios web en Google Search que muestran abuso explícito de deepfake. Y entre 2022 y 2023, el contenido sexual de deepfake en línea aumentó en más de 400%.