Nära 500 forskare och experter har undertecknat ett öppet brev som varnar för att EU:s senaste version av Chat Control-förslaget riskerar att försvaga den digitala säkerheten, utan att samtidigt ge ett meningsfullt skydd för barn.

Undertecknarna representerar 34 länder och inkluderar välkända namn som kryptografen Bart Preneel vid KU Leuven samt forskare från ledande institutioner som ETH Zürich, Johns Hopkins University och Max Planck Institute for Security and Privacy.

Reaktion

Brevet är en reaktion på det reviderade lagförslag som publicerades den 24 juli. Den nya versionen har begränsat kraven på innehållsskanning till bilder och webbadresser, medan tidigare utkast även omfattade text- och ljudkommunikation. Forskarna välkomnar vissa förändringar, exempelvis snabbare rapportering och borttagning av övergreppsmaterial, men menar att de grundläggande bristerna kvarstår.

En av huvudinvändningarna gäller tillförlitligheten i den teknik som krävs. Forskarna menar att systemen inte klarar att på ett tillförlitligt sätt upptäcka känt eller nytt övergreppsmaterial i skala för hundratals miljoner användare. Nuvarande lösningar producerar för många felaktiga träffar, både falska positiva och falska negativa, och även små förändringar av en bild kan lura de mest avancerade detektorerna. Om skanning blir obligatorisk väntas metoderna för att kringgå systemen utvecklas snabbt.

Ifrågasätter

Forskarna ifrågasätter också planerna på att använda maskininlärning för att identifiera nytt material. Det finns enligt dem inga bevis för att AI kan skilja övergreppsmaterial från privata bilder, exempelvis samtyckta foton mellan ungdomar, med den precision som krävs. De varnar för att sådana system kommer att begå många misstag och dessutom vara lätta att manipulera av personer som vill sprida olagligt innehåll.

En central invändning är att obligatorisk skanning på användarnas enheter är oförenlig med end-to-end-kryptering. Skanning innan kryptering skapar en sårbar punkt och innebär att tredje parter får tillgång till data som borde vara privat. Det skulle enligt forskarna urholka säkerheten i meddelandetjänster som Signal och WhatsApp, som används av medborgare, journalister, politiker och även brottsbekämpande myndigheter. Signal har redan meddelat att de lämnar EU om regleringen kräver skanning på enheterna. Dessutom varnas för att tekniken kan få en utökad användning i framtiden, till exempel för att skanna politiska budskap.

Ålderskontroll

Förslaget omfattar också obligatorisk ålderskontroll. Brevet påpekar att dessa system enkelt kan kringgås med VPN-tjänster eller alternativa plattformar. Än mer problematiskt är att ålderskontroller kan hota anonymitet och yttrandefrihet på nätet samt skapa ett beroende av oprövade lösningar från stora teknikföretag.

I stället för vad de beskriver som en ”teknosolutionistisk” strategi med fokus på masskanning vill forskarna se beprövade metoder. De rekommenderar satsningar på utbildning om säkerhet och samtycke på nätet, stödlinjer anpassade för traumadrabbade samt snabbare nedtagning av olagligt innehåll. De betonar att övergrepp måste bekämpas vid dess rötter, inte genom att försvaga digital säkerhet för alla användare.

Källa:
HelpNet Security