Kako policija AI "devojčicom" lovi seksualne predatore

Tužba je podneta prošle nedelje u Novom Meksiku protiv Snapchat aplikacije, za koju tužioci kažu da nije uspela da "zaštiti decu od seksualne iznude, seksualne eksploatacije i nanošenja štete". 

Kako navodi Ars Technica, dokumentacija otkriva da je deo policijske "tajne istrage" uključivao zvaničnike državnog Ministarstva pravde koji su postavili "mamac Snapchat nalog za 14-godišnjakinju po imenu Heder (Heather)".

Kao "Heder", policajci su "pronašli i razmenili poruke" sa nalozima koji pripadaju očiglednim pedofilima, sa uznemirujućim korisničkim imenima kao što su "child.rape" i "pedo_lover10", prema navodima iz dokumentacije. Istorijski gledano, kao što Ars primećuje, policija koja sprovodi slične istrage koristila bi slike odraslih žena mlađeg izgleda – često policajaca – da ubedi predatore da razgovaraju sa pravom tinejdžerkom. Ali u ovom slučaju, policajci su koristili AI-generisanu sliku seksualizovane 14-godišnjakinje kako bi ubedili počinioce da je Heder zapravo prava.

• ChatGPT dobija nove glasove, a evo kako oni zvuče
• AI firma kažnjena zbog nelegalnog prikupljanja fotografija ljudi
• "Ne gubite teško zarađeni novac"
• Neke policijske izveštaje piše veštačka inteligencija?

Prema rečima policajaca, taktika je funkcionisala: prevareni fotografijom koju je generisala veštačka inteligencija, mnogi od naloga sa kojima su policajci komunicirali navodno su pokušali da podstaknu "Heather" da sa njima podeli eksplicitne seksualne slike ili materijal o seksualnom zlostavljanju dece (CSAM).

Ali iako je ova istraga bila uspešna u otkrivanju uznemirujuće mračne realnosti Snapchat-ovih algoritama, kako primećuje Ars, upotreba veštačke inteligencije od strane policajaca postavlja nova etička pitanja. 

"Naravno, bilo bi etički zabrinjavajuće ako bi vlada napravila lažni materijal o seksualnom zlostavljanju dece (CSAM)", rekla je za Ars advokat Keri Goldberg, koja je uspešno zastupala nekoliko žrtava seksualnog zlostavljanja od strane Harvija Vajnstina, "jer te slike su nezakonite i ne želimo više CSAM-a u opticaju".

Postoje i etička pitanja u vezi sa skupovima podataka za obuku AI-ja na koje se oslanjala policija.

Da bi se stvorile lažne slike dece, AI model mora da bude obučavan na fotografijama prave dece. Teško je tvrditi da dete može dati svoj potpuni pristanak da se njegova slika koristi za obuku veštačke inteligencije – pitanje postaje još ozbiljnije kada se veštačka inteligencija koristi za stvaranje seksualizovanih ili na drugi način štetnih slika u vezi sa decom.