Analyserte én million overgrepsbilder av barn for å kunne stoppe dem automatisk

[Redaksjonen.]

Analyserte én million overgrepsbilder av barn for å kunne stoppe dem automatisk

[oppat]

Jeg så litt på denne organisasjonen.  Det er 50 mennesker som kontrollerer denne databasen.

Et bilde blir vurdert av 2 personer.  Dvs 2 kollegaer i samme team.  Dette er ikke en uavhengig vurdering.

Men uansett, det jeg skulle sett at de gjorde var å bruke AI til å sensurere disse bildene og deretter bruke en bredere gruppe mennesker til å klassifisere disse sensurerte bildene.  Det burde kunne finnes en vektor-representasjon for det sensurerte bildet og originalen som med høy sannsynlighet "beviser" at det sensurerte bildet er med i databasen.

Målet er å sørge for at det ikke er tvil om typen bilder de legger inn i denne databasen.  Slik det er nå har vi en veldig liten gruppe mennesker som helt uten overoppsyn bestemmer hva som skal sensureres.  Med rett betaling er det ikke vanskelig å se for seg mennesker med kontakter som vil få bilder de ikke liker inn i denne databasen.

Uten sporing av hvert enkelt bilde er også prosessen fra deres database til den ferdige databasen lett å angripe for å legge inn urettmessige bilder eller utskifting av et bilde mot et urettmessig bilde.

Denne organisasjonen burde også kunne samle inn penger fra sine støttespillere slik at det finnes et fond for dem som kan finne uriktige bilder i databasen.  Når slike finnes bør en dusør utbetales fra fondet.

I og med at de sier at de arbeider med Microsoft så burde de klare disse sakene uten problem.  Uheldigvis ser vanligvis ikke "gode krefter" at de selv kan bli onde eller utnyttet.  De antar bare at folk burde stole på dem fordi de er så fantastiske.

Historisk vil dog denne databasen bil mål for angrep og kontroll da den implisitt gir angriperen mulighet til å sensurere over hele verden.  Når det finnes en slik honningkrukke kommer den til å bli angrepet, garantert.  Når man ikke finner fnugg av tanker rundt dette på deres webbside blir man bekymret - kan de være så dumme eller er dette et verktøy skapt for misbruk av aktører som bruker Internet Watch Foundation som front?