Apple vil skanne Iphoner i USA for overgrepsbilder

[vidor]

14 minutes ago, knutinh said:

Overgrep mot barn er noe av det nedrigste et menneske kan gjøre.

Blir dette kjent i fengelselsmiljøet (blant de innsatte) så sliter vanligvis den innsatte som har gjort dette, så sånn sett får de gjerne straff av dem mens de soner straffen.

OM det skjer en reell aksjon mot personer som gjør overgrep mot barn p.g.a systemet så kan en vel være rimelig sikker på at det inneholder et mer eller mindre åpenbart filter som ikke rapporterer folk høyt i systemet som betaler for beskyttelse eller på annet vis er "hellig". 

Hadde lekfolk hatt et lignende system for å overvåke toppfolk som føler seg hevet over loven så hadde nok antall overgripere vært tosifret på første operative dag.

[knutinh]

vidor skrev (4 minutter siden):

Blir dette kjent i fengelselsmiljøet (blant de innsatte) så sliter vanligvis den innsatte som har gjort dette, så sånn sett får de gjerne straff av dem mens de soner straffen.

Jeg vil ikke ha strengere «straffer» for de som blir tatt enn lovens bokstav, jeg vil at flere skal bli tatt.

Sitat

OM det skjer en reell aksjon mot personer som gjør overgrep mot barn p.g.a systemet så kan en vel være rimelig sikker på at det inneholder et mer eller mindre åpenbart filter som ikke rapporterer folk høyt i systemet som betaler for beskyttelse eller på annet vis er "hellig". 

Det tror jeg lite på i transparente demokratier. I Kina eller Russland vil det sikkert være sånn.

Sitat

Hadde lekfolk hatt et lignende system for å overvåke toppfolk som føler seg hevet over loven så hadde nok antall overgripere vært tosifret på første operative dag.

Det spennende å se hvordan topp politikere reagerer på å bli overvåket, og det er givende å tenke på Snowden og co som viser hvordan ting virkelig fungerer - og hvor nådeløst han blir forfulgt av lederne som ikke ønsker å bli sett i kortene.

-k

[Simen1]

anon_83104 skrev (15 timer siden):

Innfallsvinkelen min her var med tanke på overgrep. At det finnes andre grunner, eller i det minste bivirkninger er jeg bevisst på. 

Innfallsvinkelen din er helt på en annen planet. Dette har ingenting med overgrep å gjøre. Det har med å finne en brekkstang for å lure noen til å godta inngripende overvåkning av uskyldige. Det er ikke bivirkningen men hovedvirkningen. Det er tvilsomt om avsløring av overgrepsbilder noen sinne vil havne på lista over bivirkninger. Din innfallsvinkel og "bevissthet" på dette er altså på en helt annen planet. Du er lurt trill rundt.

Endret 10. august 2021 av Simen1

[tommyb]

On 8/6/2021 at 8:52 PM, spiff42 said:

Det scenarioet stemmer nok ikke. Det er kun bilder som lastes opp til iCloud Photo Library som sjekkes mot overgrepsmateriale. Bilder i iMessage flagges ikke for myndighetene, der er det kun snakk om en foredrekontroll.

Hei, 

det jeg leser nå i oppfølgingssaken på Digi tilsier at du langt på vei har rett - det er mest snakk om iCloud og ikke scanning av mobilen som den første artikkelen her sa. 

[The Avatar]

Etter å ha lest oppfølgingssaka så oppklarer den artikkelen ein del ting.
At det berre er icloud som blir skanna er forsåvidt akseptabelt så lenge det går klart fram av brukarvilkåra. Då står brukarar fritt til å velge andre skylagringstenester. Apple har nok også eit vist behov for å kunne vise til at dei aktivt prøver å hindre å gjere seg skuldige i lagring av overgrepsbilder på eigne servere.

Det sagt så er det ikkje heilt greit med ei slik teneste. Sjølv om Apple hevder at dei vil bruke hashverdiar frå veledige organisasjonar så er det ingen garanti for at ikkje andre organisasjonar eller regimer seinare bruker same teknologien for å sende Apple lister over hashverdiar som dei vil overvåke. Det er nok ikkje særleg vanskeleg for eit totalitært regime å påstå at dei representerer ein veledig organisasjon og deretter sender Apple ei hashliste over dokument som politiske motstandarar kan tenkast å ha lagra i icloud, alt dei treng å gjere er å påstå at lista viser hashverdiar frå ein lokal database. Ettersom det berre er hashverdiane som blir oppgitt så vil heller ikkje Apple kunne verifisere kva hashverdiane refererer til.

Eg er heller ikkje særleg betrygga av at Apple lover manuell vurdering før andre blir varsla. I samband med positivt utslag på ein hashverdi frå eit kjent overgrepsbilde så betyr det at ein eller fleire tilsette hos Apple går inn og opnar opp fila som det vises til. Eg veit eigentleg ikkje om eg synes at det skal være eit privat selskap sin oppgåve å bryte seg inn i kundane sin skylagringsteneste for å vurdere om det indikerte lovbruddet er reelt eller alvorleg nok for å varsle vidare.

[knutinh]

The Avatar skrev (12 minutter siden):

hashverdiar

En hash brukes vel for å påvise en spesifikk fil (et unikt bitmønster). Vet vi at det er det Apple tenker å gjøre her?

For hvis man endrer en bit i en bildefil så vil hashen endre seg, men ikke nødvendigvis bildet. Operasjoner som skalering, rotasjon, og endring i jpeg kompresjonsgrad vil også endre hashen men ikke nødvendigvis opplevelsen av bildet.

For å robust påvise overgrepsbilder så vil jeg tro at de bruker noe som i større grad analyserer bildets perseptuelle innhold i luminans-kanalen. F.eks kant-deteksjon med ad-hoc verktøy for rotasjon og cropping.

-k

Endret 11. august 2021 av knutinh

[The Avatar]

knutinh skrev (2 minutter siden):

En hash brukes vel for å påvise en spesifikk fil (et unikt bitmønster). Vet vi at det er det Apple tenker å gjøre her?

For hvis man endrer en bit i en bildefil så vil hashen endre seg, men ikke nødvendigvis bildet. Operasjoner som skalering, rotasjon, og endring i jpeg kompresjonsgrad vil også endre hashen men ikke nødvendigvis opplevelsen av bildet.

For å robust påvise overgrepsbilder så vil jeg tro at de bruker noe som i større grad analyserer bildets perseptuelle innhold i luminans-kanalen. F.eks kant-deteksjon med ad-hoc verktøy for rotasjon og cropping.

-k

Slik som eg forstår det i den oppdaterte artikkelen  så er det berre hashverdiane som blir sjekka opp mot ein kjent database som  national center for missing and exploited children skal levere til Apple.

Så om eg forstår det rett så vil systemet berre kunne avsløre kjente og uendra overgrepsbilde, så bilder av overgrep som er blitt beskjært, vannmerka eller på andre måtar har blitt endra vil då unngå kontrollen. Tilsvarande vil sjølvsagt nye bilder som ikkje er lagt til databasen over hashverdiar heller ikkje gi utslag.

Ettersom det nok er enkelt å unngå kontrollen så meinar eg at heile systemet er unødvendig, faren for misbruk ved at ein overvåker anna type uønska innhold er nok større enn muligheita for at ein avslører overgriparar som bevist lastar kjente og uendra overgrepsbilder opp i ei skylagring som dei veit er overvåka for hashverdiar.

[sedsberg]

6 hours ago, tommyb said:

Hei, 

det jeg leser nå i oppfølgingssaken på Digi tilsier at du langt på vei har rett - det er mest snakk om iCloud og ikke scanning av mobilen som den første artikkelen her sa. 

Da må i såfall tittelen/overskriften være feil. Den sier klart og tydelig "iphoner".

Quote

Apple vil skanne Iphoner i USA for overgrepsbilder

 

[tommyb]

Ja, det var derfor jeg gikk tilbake til denne saken for å legge det til her. spiff42 korrigerte meg fordi jeg tok utgangspunktet i tittelen på denne saken men han mente det var iCloud som ble søkt gjennom. 

Så leste jeg den nye saken:  https://www.digi.no/artikler/apple-avviser-kritikken-lover-at-bilde-skanningen-ikke-kan-utvides/512438

 

Quote

Der opplyser selskapet blant annet at det ikke er alle fotografiene lagret på for eksempel en Iphone som vil bli skannet. I stedet dreier det seg kun om bilder som brukerne velger å laste opp til Icloud, og bare dersom det blir kjent for Apple at den aktuelle kontoen lagrer samlinger av kjente CSAM-bilder. Da vil Apple varsles om dette, delvis fordi det i blant annet USA er ulovlig å besitte slike bilder.

Funksjonen skal ikke fungere dersom brukeren har deaktivert Icloud Photos eller i private bildesamlinger på enheten. 

Det de beskriver er altså hvordan jeg gikk ut fra det har virket også tidligere - at de sjekker sine egne servere. Dermed er det også en god del lavere risiko for at andre kan misbruke det til å flagge deg. Ikke i samsvar med overskriften, altså.  

[Theo343]

https://www.adressa.no/pluss/nyheter/2020/05/21/Tok-bilde-av-datteren-mens-hun-badet-naken-ble-siktet-for-å-lage-overgrepsbilder-21891735.ece

https://www.nettavisen.no/nyheter/havard-badet-med-datteren-ble-siktet-av-politiet/s/12-95-3423971948
 

"han hadde tatt bilder av datteren for å sende hjem til kona"
 

Quote

Jourhavende jurist Jannicke Evjen Olsen sier til Adressa at Wigtil ble siktet etter hendelsen.

– Han fikk status som siktet siden mobilen ble beslaglagt, og det er et tvangsmiddel som gir siktet-status, sier hun til avisa.

Quote

En liten godbit til slutt, på slutten av avhøret kommer det fram at de modige borgerne som har rapportert dette mener at jeg har gitt barnet koreografi på hvordan hun skal posere på bildene. Dere som kjenner henne kan lukke øynene og prøve å se for dere at *det* hadde gått an ...

 

Endret 11. august 2021 av Theo343

[vidor]

Det ganske enkelt å manipulere bilder for å matche bilder som utløser alarmen. Hash systemet er ikke det samme som vanlige algoritmer, men laget for bilder.

https://www.vice.com/en/article/wx5yzq/apple-defends-its-anti-child-abuse-imagery-tech-after-claims-of-hash-collisions