New Jersey High School kamppailee skandaalin kanssa tekoälyn luomien kuvien vuoksi

Viihde

Poliisin tutkinnan ja vanhempien vastareaktion ovat saaneet aikaan tekoälyn luomat siveetöntä valokuvat naisopiskelijoista New Jerseyn lukiossa. Miesluokkatoverit tuottivat kuvat, jotka sitten jaettiin raportin mukaan.

Forbesin mukaan tapahtuma keskittyy Westfield High Schooliin, joka sijaitsee varakkaalla erillisalueella noin 25 kilometriä Manhattanista länteen.

Opiskelijat kertoivat The Wall Street Journalille, että yksi tai useampi heidän ystävänsä loi nämä pornografiset valokuvat Internetin tekoälysovelluksella, jonka he myöhemmin jakoivat sosiaalisessa mediassa.

Eräs huolestunut äiti kertoi, että 16. lokakuuta hänen tyttärensä oli havainnut outoa käytöstä koulun toisen vuoden poikien keskuudessa.

Näiden toimintojen todellinen luonne – pornografisten kuvien luominen ja levittäminen, jotka on luotu muuttamalla tyttöjen Internet-kuvia ja jaettu ryhmäkeskusteluissa – paljasti vasta 20. lokakuuta.

Vanhemmat kertoivat myös, että koulun johtajat kertoivat muutamille naislapsille heidän yhteytensä näihin väärennetyihin, graafisiin valokuviin. Koulu ei kuitenkaan vahvista, jos joku henkilökunta näkisi nämä kuvat omakohtaisesti.

Dorota Mani, toinen vanhempi, ilmaisi huolensa 14-vuotiaasta tyttärestään Francescasta, jonka kuvaa käytettiin 'deepfake' tekemiseen. Kehittyneitä väärennöksiä, jotka muistuttavat läheisesti oikeita valokuvia, kutsutaan syväväärennöksiksi. Mani teki ilmoituksen poliisille ilmaistuaan huolensa mahdollisista vaikutuksista tyttärensä henkilökohtaiseen ja työelämään.

Sensity, visuaalisten uhkien tiedusteluyritys, väittää, että yli 90 % syväväärennöksistä kuvista on luonteeltaan eksplisiittisiä ja sisältävät usein tunnettujen ihmisten kaltaisia.

Westfield High Schoolin noin 1 900 opiskelijan vanhemmat ilmoitti tapahtumasta rehtori Mary Asfendisilta. Hän sanoi heille, että kuvat oli poistettu eivätkä ne ole enää käytössä.

Asfendis korosti, kuinka vakava tilanne oli ja kuinka tärkeää oli, että opiskelijat ymmärtävät käyttäytymisensä seuraukset. Hän lupasi myös jatkossakin opettaa oppilaita käyttämään teknologiaa vastuullisesti.

Tietoja siitä, kuinka suuri osa opiskelijoista oli mukana näiden kuvitteellisten, säädyllisten valokuvien tuottamisessa ja mahdollisista kurinpidollisista toimista, ei jaeta.

Westfieldin ensimmäinen naispormestari Shelley Brindle lupasi taistella naisten ja tyttöjen oikeuksien puolesta ja ilmaisi syvän huolensa.