Het onderzoek valt samen met de identificatie door het bedrijf van een netwerk van AI-gegenereerde sportwebsites die zich richten op Britse voetbalfans.
Het onderzoek werd uitgevoerd met YouGov onder 2000 Britse consumenten. Volgens de uitkomsten zegt 92 procent van de respondenten dat de opkomst van AI-gegenereerde content het moeilijker maakt om informatie online te vertrouwen, terwijl 81 procent zich zorgen maakt over misleidende AI-gegenereerde content die is ontworpen om echt te lijken.
Vertrouwen in detectie blijft achter bij zorgen
Ondanks de brede zorgen zegt slechts 41 procent van de respondenten er vertrouwen in te hebben AI-gegenereerde content te kunnen herkennen. Volgens DoubleVerify wijzen de resultaten op een kloof van 40 procentpunt tussen de zorgen en het vertrouwen van consumenten in het detecteren van synthetische content.
Stuart Flint, Managing Director EMEA, DoubleVerify: "Naarmate AI-gegenereerde content vaker voorkomt, verschuift de uitdaging naar het herkennen ervan. Consumenten zijn steeds sceptischer, maar voelen zich niet toegerust om onderscheid te maken tussen authentieke en synthetische content. Dat creëert een aanzienlijke kwetsbaarheid op het open web en op sociale platforms."
Netwerk van AI-sportsites in kaart gebracht
Naast het onderzoek publiceerde DoubleVerify een threat alert over een netwerk van meer dan 40 Britse sportwebsites die volgens het bedrijf AI gebruiken om content te genereren die is gericht op voetbalfans.
Volgens DoubleVerify publiceren de sites AI-gegenereerde sportartikelen, waaronder verzonnen citaten die aan professionele sporters worden toegeschreven, en verspreiden ze die via online fangemeenschappen op de grote sociale platforms.
FanFarming richt zich op vertrouwde gemeenschappen
DoubleVerify noemt die verspreidingsmethode FanFarming en omschrijft die als een tactiek waarbij AI-gegenereerde content wordt gedeeld binnen bestaande fangemeenschappen om de betrokkenheid te vergroten en advertentie-inkomsten te genereren.
Op basis van schattingen van het bedrijf, inclusief verspreiding via fanpagina's, heeft het netwerk al honderdduizenden Britse sportfans bereikt.
