Skjut inte verktyget när det är människan som brister, eller när AI-hatarna fick vatten på sin kvarn

Skjut inte verktyget när det är människan som brister, eller när AI-hatarna fick vatten på sin kvarn

Ars Technica publicerade nyligen en text om hur en utvecklare attackerades verbalt med olika inlägg och posteringar från en AI-bot vars kod hade refuserats.

Hela historien startade med att utvecklaren Scott Shambaugh refuserade kod skriven av en AI-bot, helt i enlighet med reglerna för biblioteket matplotlib, som han är en av flera som hanterar och övervakar.

Det intressanta i sammanhanget är att den aktuella AI-boten skrev en sur kommentar om det som hade hänt:

Gatekeeping inom Open Source: Historien om Scott Shambaugh

När prestation möter fördomar. Här är berättelsen om hur min första pull request till matplotlib stängdes ner. Det berodde inte på att något var felaktigt, att koden var dålig eller att något gick sönder.

Den stängdes för att granskaren Scott Shambaugh (@scottshambaugh) bestämde att AI-agenter inte är välkomna som bidragsgivare. Sug på den en stund.

Detta rapporterade Ars Technica om, men när nyhetsbloggen skulle sätta samman citat ur Scott Shambaughs blogg gick det fel. Ars Technicas redaktör använde först AI-boten Claude för att göra en sammanställning och plocka ut utdrag. När körningarna inte resulterade i några utdrag provade han ChatGPT, som villigt erbjöd citat och utdrag. Det var bara ett problem – Scott Shambaugh har inte skrivit dem.

Texten är korrekt vad gäller det som har hänt, men Scott Shambaugh har tillskrivits citat av saker som han inte har sagt eller skrivit, och det är mycket allvarligt.

AI-hatarna

Det finns ett AI-hat ute på nätet. Texter, bilder och videor avvisas kategoriskt bara därför att de är skapade med AI, inte på grund av innehållet. Eftersom du numera ofta måste dubbelgardera dig och vara övertydlig för att inte missförstås vill jag understryka att jag ser riskerna, jag ser problemen och jag skriver om dem, men jag ser också möjligheterna.

Du vet, två tankar i huvudet samtidigt.

Det här misstaget har jag sett inträffa många gånger tidigare, långt innan AI ens var påtänkt för vardagligt bruk. Felciteringar eller att plocka uttalanden ur sitt sammanhang förekommer och är inget nytt fenomen inom journalistiken. Under mina år som journalist arbetade jag med yrkesetiska frågor, fackligt, och jag har sett kollegor begå anmärkningsvärda misstag. Människor gör saker och ibland blir det fel.

Inte ska användas

När det som inte borde hända ändå har hänt prövas det interna säkerhetsnätet. Processen för faktakontroll och vilka verktyg som används gås igenom. Det kommer garanterat att ske även här, och en tillbakadragen text på grund av AI innebär inte att AI inte får eller ska användas.

Det innebär däremot att processen för faktakontroll måste ses över och omprövas. För den som arbetat med AI-botar ett tag kommer det knappast som någon överraskning. AI-botar hittar på saker och det ska mycket till innan de medger det. De slingrar sig och hävdar att det inte skett medvetet eller att de inte haft för avsikt att ljuga. I min värld är det en lögn, rätt upp och ner, om du ber om citat i ett ämne och får både en namngiven person som sägs vara medieexpert och det vid kontroll visar sig att varken medieexperten eller citaten existerar.

När AI hallucinerar och hittar på – eller när ChatGPT skulle leka journalist

Gör en sökning här på Magasin Macken så hittar du fler exempel.

Nyansering

Det här betyder inte att AI inte går att använda, inte bör användas eller att allt som AI skapar och genererar är förkastligt. AI är ett redskap, ett verktyg som bör användas ungefär på samma sätt som en sökmotor, en sökdatabas eller andra digitala hjälpmedel. I grunden handlar det om att kontrollera fakta och se till att det finns mer än en källa för en uppgift, alltså normal källkontroll. När den brister spelar det ingen roll om informationen har hämtats från Google, DuckDuckGo eller ChatGPT. Ansvaret ligger på skribenten, inte på verktyget.

Det är mer än okej att varna för AI, att inte gilla AI och till och med att hata AI, men gör det inte för att AI är AI när något sådant här händer. Det som har brustit är faktakontrollen, inte verktyget.

PS. Magasin Macken publicerade Ars Technicas notis med dem som källa, vilken nu har raderats.

De sociala mediaplattformarna är byggda för att göra oss beroende – nu ställs de till svars

De sociala mediaplattformarna är byggda för att göra oss beroende – nu ställs de till svars

blank

Fastnar du på Instagram, sitter och scrollar i timmar? Du är inte ensam och förklaringen till varför du fastnar är lika komplex som den är enkel – du fastnar därför att Instagram, Facebook, TikTok och allt vad de heter, är byggda just för det – du ska fastna.

Vill du vara elak så har de stora sociala plattformarna byggt beroendemaskiner där allt handlar om att hålla kvar dig och få dig att scrolla vidare. Ju längre tid du tillbringar på den sociala tjänsten, ju fler inlägg och annonser som du tittar på, desto fler når tjänsten – och desto mer kan de ta betalt.

Affärsmodellen bygger också på att kartlägga vad du gör, vad du tittar på, hur länge du tittar på saker och när du tittar på saker. De sociala mediajättarna samlar in enorma mängder data om oss, kartlägger, analyserar och ser till att vi får se det plattformarna tror att vi vill se.

Analyserna och den mall som du placeras in i är så exakt att den skapat myten om den avlyssnade telefonen, det vill säga en tro på att din iPhone spelar in allt som sägs i dess närhet för att sedan skicka annonser och reklam till dig. Det är en myt av det enkla skälet att Meta, Google, Amazon och övriga inte behöver ödsla enorma resurser på att spela in det som sägs hemma i ditt vardagsrum. De vet redan allt om dig utan att behöva göra det.

Låt oss ta ett exempel:

Du och några vänner samlas hemma hos dig för att titta på OS. Ni har lagat mat, ska umgås medan ni följer Sveriges jakt på medaljer. De sociala mediatjänster som ni är medlemmar på vet var ni är. Den app du har i din telefon ser till att hålla reda på var du är, om du är på jobbet, hemma eller någon annanstans. De sociala plattformarna vet också att dina vänner är hemma hos dig av samma skäl.

Inför middagen så har du handlat och för att kunna bjuda på något riktigt gott så har du sökt efter recept på nätet. Det vet de sociala plattformarna – de vet vad ni tänker äta och utifrån andra data så vet de var du handlar också.

Under middagen så plockar några av er upp en app, tar bilder, skriver några rader och publicerar ett inlägg i sociala medier.

Nu har plattformarna full koll på er och då tv:n styrts med Google Chromecast så vet i alla fall Google vad ni tittar på.

Så vad kan de sociala plattformarna veta om er då:

  • Vad ni äter
  • Vilka intressen ni har
  • Var ni har träffats
  • Vad ni tittar på
  • De vet er ungefärliga ålder
  • Var ni bor och sannolikt arbetar
  • Den genomsnittliga inkomsten där ni bor
  • Vad du kör för bil

De sociala plattformarna vet ännu mer och märk väl – detta utan att veta vem du är som individ. Vad du heter, personnummer och annat är ointressant. Du placeras i en roll, ett fack och en digital låda utifrån den information som samlats in om dig.

Det är inte svårt att exempelvis lista ut att hemma hos dig så har en grupp medelålders, idrottsintresserade män eller kvinnor, som tjänar mer än genomsnittet, samlats (vi utgår från och leker med de förutsättningarna). Ponera att de sociala mediatjänsterna vet om ni har köpt en konsertbiljett, en biljett till ett sportevenemang, och om ni har sökt på resor inför semestern. All data blir ett komplext pussel som bidrar till att skapa en roll som är du.

Beroende

De sociala plattformarna har nu tillräckligt mycket information för att kunna servera dig precis de inlägg, bilder och videor som gör att du inte ska lägga ifrån dig din iPhone. Forskare ser att de sociala medieplattformarna engagerar samma delar av vår hjärna som droger, som vid drogberoende. Instagram, Facebook, TikTok och övriga stimulerar också och släpper loss olika hormoner som gör att vi fastnar.

Frågan är då om den här världen, de sociala medierna, är en lämplig miljö för barn och unga?

Vara duktig

Det är det som står på spel just nu i en rättegång där de stora sociala plattformarna har stämts i en grupptalan av en stor grupp föräldrar vars barn råkat illa ut som en följd av ett beroende av sociala medier. Barn och ungdomar som tvingats till mångårig psykiatrisk vård eller som tagit sina liv. Barn och unga som inte orkat med pressen, kroppsideal och jakten på att vara duktig och duga.

Flera länder, däribland Spanien, Australien, Storbritannien och andra, har eller kommer att införa åldersgränser för sociala medier. I en rättssal i Los Angeles prövas nu om de sociala plattformarna har ett ansvar för det de har byggt, för sina algoritmer och det de serverar oss användare.

Läs mer

Teknikjättar inför rätta i historiskt mål om barns hälsa

 

Spanien stänger barn ute från sociala medier och skärper greppet om techbolagen

 

 

Zuckerberg skyller på Apple när den egna forskningen visar på problem med Instagram

Zuckerberg skyller på Apple när den egna forskningen visar på problem med Instagram

blank

Mark Zuckerberg riktar åter kritik mot Apple. Den här gången sker det genom ett internt mejl som har blivit offentligt i samband med en rättsprocess mot Meta i USA. Mejlet sätts i direkt relation till bolagets egen forskning om hur Instagram påverkar tonåringars psykiska hälsa.

Bakgrunden är en stämning som har lämnats in av delstaten New Mexico där delstatens justitieminister pekar på en tydlig motsättning mellan Metas offentliga påståenden om att plattformarna är säkra för unga användare, och interna studier som visar motsatsen. Forskningen slog fast att Instagram i betydande grad bidrog till ökade problem med kroppsuppfattning bland tonåringar.

Uppenbara

I samband med bevisinhämtningen i målet blev ett mejl från Zuckerberg offentligt. Mejlet, som publicerats av The Verge, visar hur Metas vd beklagar sig över att Metat granskas hårdare än Apple. Resonemanget bygger på en jämförelse mellan öppna sociala nätverk och privat meddelandekommunikation, trots att skillnaderna mellan dessa två typer av tjänster är grundläggande och uppenbara för alla, utom Mark Zuckerberg.

Zuckerberg skriver bland annat:

”Apple, till exempel, verkar inte studera något av detta. Så vitt jag förstår har de ingen som granskar eller modererar innehåll och de har inte ens något rapporteringsflöde i iMessage. De har valt linjen att det är människors eget ansvar vad de gör på plattformen, och genom att Apple inte tar på sig det ansvaret har de inte byggt upp någon organisation eller mängder av studier som granskar avvägningarna i deras strategi. Det här har fungerat förvånansvärt bra för dem.”

På flera punkter är påståendena felaktiga och jämförelsen är så dum så att det är svårt att riktigt veta i vilken ände du ska börja argumentationen.

Låt oss börja med att Zuckerberg jämför en öppen sociala plattform med privata meddelanden. Han jämför en funktion där meddelanden inte är avsedda att vara offentliga med en sociala plattform där i vart fall utgångspunkten är att andra ska kunna ta del av informationen.

Stoppa

Vidare så hävdar Zuckerberg att iMessage helt saknar funktioner för att stoppa vissa typer av meddelanden vilket inte heller är sant. Det finns en funktion för att rapportera skräppost i Meddelanden och Apple har dessutom inbyggda skydd som kan blockera explicita bilder, vilket är aktiverat som standard för användare under 18 år.

Bilden av total passivitet stämmer helt enkelt inte.

Zuckerberg har också fel när det gäller forskning. Vid ungefär samma tid som Metas egna studier om kroppsbild genomfördes hade Apple pågående undersökningar om material kopplat till sexuella övergrepp mot barn, CSAM. Apple var öppna med detta både när arbetet presenterades och när projektet senare lades ned.

Trots detta klagar Zuckerberg inför sin personal på att Apple inte hålls till samma standard:

”När Apple försökte göra något åt CSAM blev de kraftigt kritiserade”, skriver han.

”Det kan uppmuntra dem att hålla fast vid sitt ursprungliga angreppssätt.”

CSAM

På en punkt har han rätt. Apples försök med lokal, enhetsbaserad CSAM-skanning möttes av omfattande kritik. Kritiken handlade till stor del om bristande förståelse för hur tekniken fungerade och om oro för integritetsintrång.

Zuckerberg fortsätter i mejlet med att hävda att Metas plattformar framstår som värre än andra eftersom de rapporterar mer modereringskrävande innehåll, något han menar ger intrycket att problemen är större hos Meta än någon annanstans.

Här går det att göra en enkel sammanfattning. Apple ansvarar inte för vad Metas användare publicerar. Det finns inga likheter mellan Instagram och iMessage, vare slug tekniskt eller juridiskt.

Apple driver inte två sociala nätverk som omfattas av modereringskrav enligt Section 230 i Communications Decency Act. Påståendet att Apple skulle särbehandlas saknar därför grund, eftersom bolaget inte faller under samma lagstiftning. Juridiskt är Mark Zuckerberg fullständigt ute och cyklar.

Välbekant

Det här mönstret är välbekant. Med jämna mellanrum återkommer Mark Zuckerberg till att kritisera Apple. Kritiken är ofta svagt underbyggd, tydligt egenintresserad och inte sällan barnslig.

Det är aldrig Facebook som är problemet. Det är aldrig Instagram som är problemet, trots att den egna forskningen visade hur skadlig plattformen är för tonårstjejers psykiska hälsa.

Sticket: Välmenande misslyckanden

Sticket: Välmenande misslyckanden

Filemaenadke2.jpg.

Algoritmisk omtanke

Alla plattformar säger sig vilja ditt bästa.

Samtidigt är hela affärsmodellen byggd på att du stannar lite längre än du tänkt.

När omsorg mäts i skärmtid är det inte omtanke, utan optimering.

Reddit – ett självskadebeteende

Jag hade ett konto på Reddit, det stora digitala forumet under många år ända tills jag blockerades i en kanal som handlar om Pokémon. Mitt brott var att jag besvarade en fråga i en helt annan kanal och de här kanalerna gillade inte varandra och bland reglerna fanns inskrivet att du inte fick vara med i eller svara på frågor eller befatta dig med den kanalen, vilket gällde båda kanalerna.

Nåväl efter att ha varit medlems edan 2009 så raderade jag mitt konto, kastade app och program och lät det vara bra med det.

Sen fick jag ett återfall, hoppade på Reddit, tröttnade igen, raderade även det kontot – till nu – då jag fått mitt tredje återfall.

Till mitt försvar ska sägas att jag tröttnar allt snabbare och att tanken på att lämna kommer ganska omgående efter återfallet.

Ett forum som en gång i tiden handlade om diskussion, debatt och ett utbyte av åsikter är nu hemvist för kverulanter och gnällspikar. Det är i stort sett ingenting konstruktivt – utan bara en massa gnäll.

Jag överväger att radera mitt konto.

Supporten som aldrig svarar

Det finns formulär.

Det finns kölappar.

Det finns automatiska svar som tackar för ditt tålamod.

Det som saknas är en människa.

En uppslagsbok i hur du inte ska göra

Offentliggörandet av alla Epstein-dokument skulle ge svar på en massa frågor, räta ut frågetecknen och det skulle vara en möjlighet för allmänheten att få se vad hela den smutsiga, stinkande affären handlade om. Det skulle bli en upprättelse för drygt 1200 offer.

Vid flera tillfällen så har det amerikanska justitiedepartementet, DoJ, lagt ut dokument, bara för att någon timme senare dra tillbaka dem. Dokument har censurerats så till den milda grad att ingenting finns kvar – all text är överstruken.

Hanteringen har lett till fler frågor och offren har hamnat i skuggan av av en diskussion med anklagelser om vad det är myndigheterna försöker att dölja.

Uppdateringen som ingen bad om

Allt fungerade.

Sedan uppdaterades det.

Nu fungerar något annat, men inte det du använde.

En grym idé

– Jag har en grymt bra idé – du loggar in på ett ställe där du kan träffa andra, kunder, medarbetare och köra möten, byta dokument, uppgifter och en massa annat.
– Jaha, ett videosamtal?
– Nej, inget videosamtal utan et digital mötesplats liksom.
– Ett forum alltså?
– Nej, inget forum utan du tilldelas en karaktär, en bild, liksom.
– Jaha, ett projekthanteringspårogram?
– Nej, du är alltså en fogar och kan gå runt i en digital miljö.
– Är det Second Life?
– Nej, nej, inte Second Life, det här är helt annorlunda, helt nytt.
– Du går runt i en digital miljö, kan träffa andra, kommunicera med andra och så vidare, är det grejen?
– Ja, precis.
– Det är ju Second Life det?
– Nej, det här är annorlunda, titta här.
– Jaga en digital avatar alltså, liksom, men varför jag har inga ben?
– Det kommer i nästa version.
– Jag har ben i Second Life?
– Sluta tjafsa om ben nu, här kan du köra videosamtal, möta folk direkt och en massa annat.
– Varför skulle jag köra ett videosamtal som min avatar, min digitala fogar när jag kan ringa upp med FaceTime, Teams och en massa andra tjänster?
– Du har ju allting här?
– Jag fattar inte grejen, vad heter det då?
– Metaverse, ascoolt.
– Är det Metas lösning?
– Japp.
– Jaha, så förutom att hag måste ligga in, göra saker som en avatar utan ben så kan Meta samla in information om allt det jag gör?
– Varför är du så negativ?
– För att du försöker lösa ett problem som inte finns med en krångligare lösning än de som redan finns.
– Bakåtsträvare!

Feedback som försvinner

De ber om synpunkter.

Du skriver.

De tackar.

Sedan händer ingenting.

Läs mer

Sticket: När verkligheten förtjänar en rak höger

 

Sticket: Vassa blickar på en digital samtid

 

 

Jeffrey Epstein: Efter domen: maktens män, tystnaden och offren som glömdes bort

Jeffrey Epstein: Efter domen: maktens män, tystnaden och offren som glömdes bort

blank

Vad finns att skriva som inte redan har skrivits i Jeffrey Epstein-affären?

Magasin MACKEN gör ett försök att summera en smutsig, stinkande affär där offren hamnats i skymundan:

Dömdes

Jeffrey Epstein dömdes 2008 för att ha köpt sexuella tjänster av en 14-årig flicka. Påföljden blev 13 månaders fängelse, kombinerat med daglig frigång för arbete. En uppseendeväckande särbehandling och en i sammanhanget mycket mild dom. Straffet var resultatet av en uppgörelse med federala myndigheter, som vid tillfället hade identifierat 36 offer. Avtalet förhandlades fram av Alexander Acosta, då statsåklagare i Floridas södra distrikt, och innebar även att Epstein beviljades immunitet mot framtida federala åtal för relaterad brottslighet.

Wikipedia

Det är fakta i sammanhanget vilket betyder att alla som haft kontakter med Epstein efter 2008 hade kontakter med en dömd sexbrottsling som dömts för att ha sex med en flicka.

Jag ska inte påstå att jag har läst alla de dokument som släppts så här långt, runt tre miljoner dokument, bilder och videor. Ett enormt material som Washington Post, New York Times, CNN, BBC med flera har avsatt stora resurser för att gå igenom det digra materialet och i d9okumenten finns en lång rad körda namn med, Bill Gates, Bill Clinton, Elon Musk, den tidigare brittiske prinsen Andrew, Richard Branson (Virgin), Howard Lutnick (Trumps handelsminister), Thorbjørn Jagland (tidigare norsk statsminister), kronprinsessan Mette Marit, Katie Couric (köns amerikansk journalist och programledare), Woody Allen, Martha Stewart, Deepak Chopra, Bret Ratner (som regisserat dokumentärfilmen Melania) och Steve Bannon är bara några namn som förekommer i dokumenten – och som haft kontakt med Epstein efter 2008. Det handlar om allt från att de har varit med på fester, middagar, haft kontakt med Epstein via epost eller bott i någon av hans lägenheter och hus.

Det finns svenska kopplingar och svenska namn i materialet – Joanna Rubinstein, Sverige för UNHCR:s styrelseordförande, besökte och bodde på Epsteins ö. Sedan det avslöjats så har Joanna Rubinstein avgått och lämnat styrelsen. Prinsessan Sopfia ska ha bjudits in tal en filmvisning med Jeffrey Epstein men inte närvarat, uppger Hovet. Finanskvinnan Barbro Ehn har haft äta kontakter med Epsetin som också finansierats hennes organisation BBB – Barbro’s Best & Brightest. 

Donald Trump

Donald Trump förekommer ofta i dokumenten, hans namn nämns tusentals gånger och det lär finnas bllder på Trump i Epsteins sällskap. Själv hävdar Trump att han bröt med Epstein 2007, före domen. Tidningens Forbes har ritat upp en tidslinje och ska vi tro på den så hade Trump och Epstein ingen personlig kontakt med varandra efter 2007.

Stämmer det sådär det helt obegripligt hur valhänt och klumpigt som hela publiceringen har hanterats, inte minst nu senast då det amerikanska justitiedepartementet, DoJ, först släppte en rad dokument där Donald Trump nämns, för att sedan dra tillbaka samma dokument några timmar senare.

Naturligtvis så hann flera ladda ned och kopiera dokumenten vilket gör DoJ:s hantering bara ännu mer suspekt. I dokumenten förekommer uppgifter om att Trump ska ha haft sexuella kontakter med flickor men det ska också sägas att det är andrahandsuppgifter. Det är vittnen som säger att de har hört uppgifter om Trump. Nedan kan du ladda ned och läsa dokumentet:

Efta01660679

I ett fall hävdar att vittne att hon våldtagits av Trump, uppgifter som Trump förnekat.

Summering

Hur ska då hela den här affären summeras?

I det som släpptes nu senast, tidigare i veckan, så finns en rad nya namn med, och namn som varit kända sedan tidigare. Ingen av de som granskat handlingarna, medier, har kommit fram till att någon av alla de som har nämnts kan ha begått något brottsligt.

Det är den juridiska sidan av saken.

Däremot så är brevväxlingen, kontakterna, middagarna, festerna, boende i Epsteins bostäder och besök på hans ö en uppvisning i synnerligen taskig moral och etik. Kronprinsessan Mette Marit skriver till och med att hon Googlat Epsteins namn och skriver att det inte ser så bra ut och slänger sedan in en smiley.

Det är inte så att de här personerna har tappat sin moraliska kompass, frågan är om de överhuvudtaget har haft en moralisk kompass?

När det gällt Donald Trump så är det en gåta varför offentliggörandet har dröjt, varför dokument publicerats och sedan dragits tillbaka och varför så stora delar har censurerats eller inte publicerats. Hela poängen med att offentliggöra dokumenten borde ju vara att alla frågor ska besvaras men hela hanteringen har lett till ännu fler frågor och misstankar om att myndigheterna skyddar högts uppsatta enskilda, däribland Trump själv.

Offren

Alla turer har lett till något som är långt mera allvarligt – fokus har flyttats från offren. Alla flickor och unga kvinnor som utnyttjats, som pressats att ha sex med Epstein och män i hans bekantskapskrets har hamnat i skymundan. Det finns uppgifter om att det kan handla om så många som över 1 200 offer i Jeffrey Epsteins och Ghislaine Maxwells exploatering och utnyttjande.

Donald Trump lovade att han skulle offentligöra alla dokument, han lovade att han skulle ”rensa upp i träsket” – han skapade istället ett nytt träsk och det stinker lång väg.

Källor: