Instagram pakt accounts aan die nep-mensen genereren met AI

Instagram onderneemt stappen om het toenemende aantal nepaccounts met door AI gegenereerde influencers aan te pakken. Het platform past de benaming van het bestaande 'AI creator'-label aan naar 'AI-generated profile'. Hiermee wil Meta, het moederbedrijf van Instagram, direct verduidelijken dat een profiel een virtueel personage bevat en geen echt mens.

De maatregel volgt op aanhoudende reacties van gebruikers die aangeven dat ze het als storend ervaren wanneer een schijnbaar menselijk profiel achteraf een computergegenereerde creatie blijkt te zijn. Bekende voorbeelden van dergelijke accounts, zoals het virtuele model Aitana Lopez, vallen onder deze nieuwe categorie.

Beperkt bereik bij het verbergen van AI

Accounts die een AI-gegenereerd persoon afbeelden maar dit niet uit zichzelf via de instellingen transparant maken, worden actief opgespoord. Wanneer Instagram vaststelt dat een pagina de regel overtreedt, krijgt het account een sanctie opgelegd in de vorm van een beperkt bereik.

Concreet betekent dit dat berichten van niet-gelabelde AI-profielen niet langer worden aanbevolen aan niet-volgers via functies zoals Reels en het Explore-tabblad. Accountbeheerders die van mening zijn dat hun profiel onterecht is gevlagd, kunnen tegen de beslissing in beroep gaan.

Afbakening van de regels

Instagram benadrukt dat de regel uitsluitend geldt voor accounts die een volledig synthetische identiteit neerzetten. Menselijke contentmakers die AI-gereedschappen gebruiken om hun foto's of video's te bewerken, zijn niet verplicht om het nieuwe profiellabel te voeren.

Hoewel de stap niet voorkomt dat er in het algemeen veel door AI gegenereerde media op het platform verschijnt, wordt het beleid gezien als een eerste actieve poging om misleiding door synthetische identiteiten te verminderen.