Sökjätten Google har ett AI-samarbete med den amerikanska militären som nu får allt hårdare kritik, inte bara externt utan även inifrån företaget.

New York Times rapporterar om en protestlista som skrivits under av mer än 3 000 anställda inom Google.

Listan är i form av ett brev som skickats till Google-chefen Sundar Pochai och av brevet framgår något lite mer om vad projektet, “Project Maven” kan handla om. Inledningsvis så sig det ut som att Google försåg militären med en del konton och lite enklare tjänster men brevet antyder att Google även bistår med expertis gällande maskininlärning och AI.

Kritik

Google har tillsammans med försvarsdepartementet försvarat sig med att projektet inte ska leda fram till något eget vapen- eller försvarssystem och att merparten av projektet handlar om, defensiva funktioner.

The company subsequently described its work on Project Maven as “non-offensive” in nature, though the Pentagon’s video analysis is routinely used in counterinsurgency and counterterrorism operations, and Defense Department publications make clear that the project supports those operations. Both Google and the Pentagon said the company’s products would not create an autonomous weapons system that could fire without a human operator, a much-debated possibility using artificial intelligence.

The New York Times

Drönare

Electronic Frontier Foundation, EFF, har granskat den information som finns tillgänglig om projektet och konstaterar att det bland annat handlar om mjukvara som ska kunna känna igen civila och skilja dem från militära mål via drönare.
EFF varnar också för att AI-system kan vara svåra att helt kontrollera eftersom de är byggda för att kunna agera på egen hand.

Companies, and the individuals who work inside them, should be extremely cautious about working with any military agency where the application involves potential harm to humans or could contribute to arms races or geopolitical instability. Those risks are substantial and difficult to predict, let alone mitigate.

EFF

Fotnot: Jag har under många år stött EFFs kamp för ett öppet internet. Texten ovan bör läsas med det i minnet.