據安全監管機構稱，戀童癖者正在利用人工智能（AI）的進步來製作由人工智能生成的兒童性虐待視頻，隨著技術的進步，這些視頻的數量可能會增加。
《衛報》報道，互聯網觀察基金會（IWF）看到的大多數此類案件都涉及操縱現有的兒童性虐待材料（CSAM）或成人色情內容，並將兒童的臉部移植到鏡頭上。IWF表示，少數例子涉及完全由人工智能製作的視頻，持續約20秒。IWF組織負責監測世界各地的兒童性虐待材料，該組織表示，它擔心隨著背後的工具變得更加廣泛和更易於使用，可能會出現更多人工智能製作的兒童性虐待材料影片。
IWF首席技術長Dan Sexton表示，如果人工智能視訊工具的使用遵循與人工智能製作的靜態圖像相同的趨勢，隨著技術的改進和廣泛應用，靜態圖像的數量也會增加，那麼可能會出現更多的CSAM視訊。「我試探性地說，如果遵循相同的趨勢，那麼我們將會看到更多的視頻。」他補充說，未來的視頻也可能具有「更高的品質和真實感」。
IWF分析師表示，該組織在戀童癖者使用的暗網論壇上看到的大多數影片都是部分深度偽造的，其中線上免費提供的人工智能模型用於將兒童的臉部（包括已知的CSAM受害者的圖像）強加到現有的CSAM影片或成人。IWF表示已發現9個此類影片。
IWF正在推動法律修改，將製作生成人工智能CSAM的指南以及製作可以生成此類材料的「微調」人工智能模型定為犯罪。
