Framtidens polisarbete tycks inkludera inslag från sagornas värld. En lokal nyhetsstation i Utah har rapporterat om hur polisen använder artificiell intelligens för att öka säkerheten på gatorna. En detalj i rapporteringen sticker ut mer än andra. Mjukvaran valde vid ett tillfälle att klassificera en person som en groda.
Det rörde sig inte om ett skämt eller en liknelse. Systemet registrerade en människa som ett groddjur och gick sedan vidare i sina beräkningar.
Bristande verklighetsuppfattning
Problemet uppstod när tekniken analyserade material från en kroppskamera. I bakgrunden visades filmen Prinsessan och grodan på en skärm. Programvaran tolkade bilderna från filmen som en del av verkligheten. Polisen konstaterade efteråt att incidenten visar hur viktigt det är att granska de rapporter som tekniken skapar. Systemet ser inte människor utan analyserar pixlar, former och sannolikheter. När mönstren blir otydliga gissar tekniken i stället för att stanna upp.
Unga utvecklare bakom tekniken
Mjukvaran som testas heter Code Four och har skapats av två 19-åriga avhoppare från MIT. Syftet med tekniken är att generera polisrapporter direkt från video för att minska pappersarbetet. Förhoppningen är att poliser ska kunna tillbringa mer tid ute på fältet. Incidenten med grodan väcker dock frågor om tillförlitligheten hos algoritmer som ska hjälpa till att fatta beslut om vem som ska stoppas eller förhöras. Kan ett system inte kan skilja en människa från en amfibie finns det betydande risker med att ge tekniken ett allt större ansvar.
Källa: Fox13 Now
0 kommentarer