خبرگزاری ملی مبارزه با جرایم بریتانیا (NCA) برای والدین هشدار داده‌است که از انتشار عمومی تصاویر کودکان‌شان در شبکه‌های اجتماعی خودداری کنند؛ زیرا این تصاویر ممکن است با استفاده از هوش مصنوعی برای تولید محتوای سوءاستفاده از کودکان مورد استفاده قرار گیرد.
این نهاد همراه با بنیاد نظارت بر اینترنت (IWF) گفته‌است که تهدید استفاده از تصاویر کودکان موجود در اینترنت برای ساخت محتوای سوءاستفاده با هوش مصنوعی در حال افزایش است.
بر اساس گزارش IWF، در سال ۲۰۲۵ بیش از ۸ هزار تصویر و ویدیوی تولیدشده با هوش مصنوعی که سوءاستفاده واقع‌گرایانه از کودکان را نشان می‌داد، شناسایی شده است؛ رقمی که نسبت به سال پیش از آن ۱۴ درصد افزایش یافته است.
این نهاد به والدین توصیه کرده تا تنظیمات حریم خصوصی حساب‌های خود را بررسی کنند و در صورت نیاز، برای اشتراک‌گذاری تصاویر کودکان از گزینه‌هایی مانند گروه «دوستان نزدیک» استفاده کنند.
IWF همچنین گفته است که شمار ویدیوهای تولیدشده با هوش مصنوعی و مرتبط با سوءاستفاده از کودکان، از ۱۳ مورد در سال ۲۰۲۴ به ۳ هزار و ۴۴۰ مورد در سال ۲۰۲۵ افزایش یافته است.
