New York Times har granskat Googles automatiska funktioner för att scanna efter och anmäla misstänkt barnporr. Funktionen som är tänkt att få bort dokumenterade övergrepp mot barn från nätet, stoppa distributionen, slår ibland helt fel och drar in oskyldiga i polisutredningar och en tidsödande kamp mot teknikbolagens algoritmer.
Då brottet i sig är så avskyvärt så reagerar en del med magen och tar starkt avstånd från barnporr utan att vilja se problemet. Här gäller det att inte gå i fällan och offra personlig integritet, skydd om den enskilde till förmån för något annat, barnen. För det är precis det en del politiker, poliser, åklagare och företrädare för rättighetsorganisationer gör – de fokuserar på den ena delen, den som är lätt att försvara och skydda – barnen. Det är därför pedofiler ofta tas som ett exempel på de grova brottslingar som de här tekniska, inte sällan automatiska lösningarna ska spåra, ringa in och fånga.
Invändning
Ingen vettig människa torde ha någon invändning mot det men, och nu kommer invändningen, vi kan inte skapa system som fångar oskyldiga och som drar in dem i flera års kamp mot polis och myndigheter som litar mer på tekniken än på den enskilde. För det är det vi gör, tenderar till att göra, vi litar på våra tekniska system och vi tror att om vi säker efter något på nätet så är det sanningen vi får fram. I synnerhet om denna sanning bekräftar mina egna åsikter.
Så när en pappa som fotograferat sonen för att skicka bilderna till läkare så fastnar bilderna i Googles scanning, pappan polisanmäls och han tvingas att inleda en lång kamp mot polis och myndigheter för att rentvå sig och sitt namn. Den lille, den svage, den enskilde ska bevisa sin oskuld mot det starka samhället. Det är en ohållbar situation och det är därför alla rättsstater har det motsatta förhållandet – du är oskyldig tills motsatsen bevisats.
Försvarar
I varje debatt om barnporr, pedofiler och övergrepp mot barn så smyger sig väldigt ofta anklagelsen in att den som har den minsta invändning mot scanning, övervakning och kontroll av enskilda försvarar de här grova och på alla punkter avskyvärda brotten. Det finns en utbredd åsikt att ”något får vi offra för barnen” och om enskilda fastnar i teknikföretagens algoritmer så är det ett pris vi får leva med och betala. Det är en godtagbar förlust och kostnad – bara vi kan rädda barnen. Här i ligger fällan, vi förblindas i vår omtanke om barnen och släpper loss mer teknik, mer algoritmer och fler automatiska system.
När Apple meddelade att de planerade att införa en scanning av bilder som skulle laddas upp till iCloud så blev det inledningen till en rätt intensiv debatt där jag bytte åsikt lika ofta som att jag läste den senaste krönikan, texten och debattinlägget i ämnet. Jag visste helt enkelt inte riktigt vad jag skulle tycka och konflikten är enkel – barnen eller min egen integritet. Jag tyckte att Apples scanning var acceptabel och att det var befogat att mina bilder skulle scannas innan jag lagade dem hos Apple, på Apples servrar. Det är det Google gör och har gjort sen flera år tillbaka. Lagrade bilder scannas och det gör fler leverantörer av molnlösningar.
Siffrorna som skaver när det gäller Apples scanning av bilder
För dig som undrar vad debatten om Apples scanning handlar om spå skrev jag denna text:
CSAM: Apple gör det många andra redan gör med en viktig skillnad
Tillgång
Den sista raden gjorde att jag till slut landade i att jag inte tycker att Apple lösning är en bra idé. Apple skaffar sig tillgång till din enhet – scanningen görs när bilderna ligger i kön för att laddas upp till iCloud. Det kan tyckas att vara en liten detalj och det kanske det är för de allra flesta men den finns en tydlig linje som inte bör passeras – skaffa dig inte tillgång till användarens enhet om du är leverantör.
New York Times har tittat närmare på Googles scanning och hittat flera fall där oskyldiga föräldrar dragits in i utredningar gjorda av polis och myndigheter. De har fått tillbringa flera år med att försöka att få bort felaktiga uppgifter som landat ute på nätet som en följd av att automatiska system, algoritmer, pekat ut dem som brottslingar, grova brottslingar.
Ska vi komma någonstans i debatten så måste vi kunna och klara av att hålla två tankar i huvudet, samtidigt – omsorgen om barnen och omsorgen om den enskilde.
