Совместное расследование NewsGuard и Pangram Labs обнаружило более 3000 веб-сайтов, массово публикующих сгенерированный ИИ контент, часто содержащий фактические ошибки. Число таких «контент-ферм» удвоилось за год и продолжает расти на 300-500 новых сайтов ежемесячно.
Эти сайты работают по модели «made for advertising» — они имитируют легитимные новостные издания и зарабатывают на программатик-рекламе. По данным NewsGuard, за двухмесячный период 141 известный бренд, включая Expedia, AT&T, YouTube, Priceline и Skechers, неосознанно размещал рекламу на таких ресурсах, фактически финансируя дезинформацию.
Среди задокументированных случаев — ложное заявление о том, что Coca-Cola угрожала отозвать спонсорство Super Bowl, и фейковые обвинения в адрес американских сенаторов, которые затем были усилены российскими государственными СМИ. Из выявленных ферм 358 связаны с Storm-1516 — пророссийской операцией влияния, публикующей контент на сайтах, замаскированных под местные газеты в США и Европе.
Эксперты предупреждают, что масштаб проблемы будет только расти по мере удешевления и упрощения генерации контента. Рекламные сети пока не справляются с фильтрацией ИИ-ферм, а поисковые системы нередко ранжируют их наравне с настоящими изданиями, создавая замкнутый круг дезинформации.
