En granskning från Svenska Dagbladet och Göteborgs-Posten visar att Metas nya AI-glasögon samlar in stora mängder känslig data från användare.
Materialet kan i vissa fall granskas manuellt av anställda hos underleverantörer, bland annat i Kenya, där arbetare vittnar om att de ser mycket privata situationer från människors vardag.
Glasögonen, som säljs under namnet Meta Ray-Ban, marknadsförs som en digital assistent som kan fotografera, spela in video, svara på frågor och tolka vad användaren ser. Tekniken ska fungera genom en AI-tjänst kopplad till Metas servrar. Företaget framhåller samtidigt att användaren har kontroll över sin integritet.
Granskningen visar dock att data från glasögonen måste skickas vidare till Metas system för att AI-funktionerna ska fungera. Röst, text, bilder och ibland video behandlas automatiskt i företagets infrastruktur. I Metas användarvillkor framgår också att vissa interaktioner kan granskas manuellt av människor.
En del av detta arbete utförs av så kallade dataannotatörer i Nairobi. De arbetar åt underleverantören Sama och har i uppdrag att märka upp och analysera bilder, video och ljud så att AI-systemen kan tränas. Arbetet är en central del av utvecklingen av AI-tjänster, men sker ofta i låginkomstländer där arbetskraften är billigare.
Flera anställda berättar att de ibland ser mycket privata klipp från användarnas vardag. Det kan handla om människor som går på toaletten, byter om eller befinner sig i andra intima situationer. En del material visar även bankkort, pornografi eller andra känsliga uppgifter.
Arbetarna upplever att de tittar rakt in i människors privatliv, men säger samtidigt att de inte kan ifrågasätta uppgifterna eftersom arbetet styrs av strikta sekretessavtal. Om de bryter mot reglerna riskerar de att förlora sina jobb.
Samtidigt råder osäkerhet kring hur mycket information som faktiskt samlas in och hur den används. Experter på dataskydd menar att gränsen mellan vad användaren frivilligt delar och vad som samlas in automatiskt kan vara svår att förstå.
Enligt den svenska Integritetsskyddsmyndigheten är det vanligt att användare inte inser hur mycket data som behandlas när nya AI-tjänster används. Den information som samlas in kan vara mer värdefull än själva produkten eftersom den gör det möjligt att analysera människors beteenden och rikta tjänster och annonser mer exakt.
Meta uppger i sina villkor att data kan överföras och behandlas globalt och delas med både interna enheter och externa partners. Företaget har datacenter i bland annat Sverige, Danmark och Irland, men behandlingen kan också ske på andra platser.
Granskningen visar samtidigt att kunskapen om hur glasögonen fungerar är begränsad även hos återförsäljare. Flera butiksanställda i Sverige uppger att de inte vet var data hamnar eller hur den behandlas.
För användaren framstår glasögonen som en enkel vardagsteknik. I andra änden av systemet sitter samtidigt människor som manuellt analyserar bilder och videoklipp från användarnas liv för att göra AI-systemen bättre.
En av de anställda i Nairobi sammanfattar situationen: om människor verkligen visste hur mycket data som samlas in skulle många sannolikt tveka inför att använda glasögonen.
Källa: SVD
