New Jersey High School sliter med skandale over AI-genererte bilder

Underholdning

En henvendelse fra politiet og et tilbakeslag fra foreldre har blitt utløst av AI-genererte obskøne bilder av kvinnelige elever ved en videregående skole i New Jersey. Mannlige klassekamerater produserte bildene, som deretter ble delt, ifølge en rapport.

Hendelsen dreier seg om Westfield High School, som ligger i en velstående enklave omtrent 25 miles vest for Manhattan, ifølge Forbes.

Studenter fortalte The Wall Street Journal at en eller flere av vennene deres laget disse pornografiske fotografiene ved å bruke en internett-AI-applikasjon, som de deretter delte med sitt sosiale medienettverk.

En bekymret mor sa at datteren 16. oktober hadde observert merkelig oppførsel blant skolens andre gutter.

Den sanne naturen til disse aktivitetene – opprettelsen og spredningen av pornografiske bilder laget ved å endre internettbilder av jenter og delt over gruppechatter – ble ikke avslørt før 20. oktober av en medstudent.

Foreldre uttalte også at administratorer ved skolen fortalte noen få kvinnelige barn om deres tilknytning til disse falske, grafiske bildene. Skolen ville imidlertid ikke bekrefte om noen ansatte så disse bildene på førstehånd.

Dorota Mani, en annen forelder, ga uttrykk for bekymringene sine angående hennes 14 år gamle datter Francesca, hvis bilde ble brukt til å lage en 'deepfake'. Avanserte forfalskninger som ligner på ekte bilder kalles deepfakes. Mani sendte inn en politianmeldelse etter å ha uttrykt bekymring for mulige virkninger på datterens personlige og profesjonelle liv.

Sensity, en etterretningsvirksomhet for visuell trussel, hevder at over 90 % av dypfalske bilder er eksplisitte i naturen og inkluderer ofte likheter med kjente personer.

Foreldre til de rundt 1900 elevene ved Westfield High School ble informert om arrangementet av rektor Mary Asfendis. Hun ga dem ordet om at bildene var fjernet og ikke lenger var i bruk.

Asfendis understreket hvor alvorlig situasjonen var og hvor avgjørende det var at elevene forstår konsekvensene av deres oppførsel. Hun lovet også å fortsette å instruere elevene om hvordan de kan bruke teknologi på en ansvarlig måte.

Informasjon om hvor mye av studentene som var involvert i å produsere disse fiktive uanstendige bildene og om eventuelle disiplinære handlinger som ble iverksatt, deles ikke.

Den første kvinnelige ordføreren i Westfield, Shelley Brindle, lovet å kjempe for rettighetene til kvinner og jenter og ga uttrykk for sin dype bekymring.