Google har ett system som analyserar lagrade bilder, automatiskt, och systemet rapporterar också misstänkt barnporr till polisen, automatiskt. Nu har en pappa som fotograferat sin son för att skicka bilderna till läkare registrerats som misstänkt sexbrottsling, skriver New York Times.
Mark, som tingen kallar honom, är hemmapappa och när han upptäckte att sonens penis var svullen och sonen hade ont så tig han sin Android-telefon för att ta bilder – som dokumentation och för att skicka bilderna till läkare.
Med hjälp av bilderna diagnostiserade läkaren problemet och ordinerade antibiotika, vilket snabbt löste det. Bilderna däremot ledde till Atta Mark fastnade i Googles algoritmer. Bilderna rapporterades till polis och Mark drogs in i en polisutredning.
Två fall
Det här är en följd av att teknikföretagen, inte minst Google, samlar in enorma mängder data om oss användare. I Googles fall så scannas lagrade bilder och det ställs därför krav på Apple, Google, Facebook, Instagram med flera att de aktivt ska medverka i att jaga barnporr ute på nätet. De som försvarar barnen säger att företagens samarbete är avgörande för att bekämpa spridningen av sexuella övergrepp på nätet. Det kan innebära att privata bildarkiv, som digitala fotoalbum scannas och det kan leda till stora problem för enskilda som fångas av de här automatiska systemen. New York Times säger sig ha hittat åtminstone två fall.
Jon Callas, en teknolog vid Electronic Frontier Foundation, en organisation för digitala medborgerliga friheter, kallade fallen för kanariefåglar “i denna speciella kolgruva.”
– Det kan finnas tiotals, hundratals, tusentals fler av dessa, säger han till New York Times.
Enligt Callas så kan det finnas fler fall men de drabbade vill inte berätta på grund av vad de anklagas för – innehav och spridande av barnporr.
0 kommentarer