Ny attack avslöjar säkerhetshål i OpenAIs Atlas och Comets webbläsare

Ny attack avslöjar säkerhetshål i OpenAIs Atlas och Comets webbläsare

Forskare vid säkerhetsföretaget SquareX har upptäckt en allvarlig sårbarhet i AI-webbläsarna OpenAI Atlas och Perplexity Comet. Felet gör det möjligt att skapa en falsk version av webbläsarens inbyggda AI-sidofält – en attackmetod som forskarna kallar AI Sidebar Spoofing.

Genom att använda ett skadligt webbläsartillägg kan angripare lägga ett fejkat sidofält ovanpå det äkta och därigenom lura användaren att tro att de interagerar med den riktiga AI-assistenten. Det falska gränssnittet kan sedan ge manipulerade svar och leda till farliga handlingar, som att stjäla kryptovaluta, kapa Gmail- eller Google Drive-konton eller installera skadlig kod som ger angriparen full åtkomst till datorn.

Attacken

SquareX visade att attacken fungerar både i Comet och i OpenAIs Atlas för macOS. Det krävs endast vanliga webbläsarbehörigheter som ofta används i legitima tillägg, vilket gör attacken svår att upptäcka.

Varken OpenAI eller Perplexity har ännu svarat på varningen. SquareX uppmanar därför användare att inte använda AI-webbläsare för känsliga uppgifter som e-post, ekonomisk information eller inloggningar. Forskarna menar att dessa nya AI-drivna webbläsare fortfarande är för omogna för att vara säkra vid mer än enkel, vardaglig surfning.

Källa: BleepingComputer

Läs mer

AI-webbläsaren Dia släpps för alla Mac-användare

 

OpenAI lanserar ChatGPT Atlas – webbläsaren med inbyggd AI-assistent

 

 

Avslöjandet som kan fälla Meta – försökte dölja bevis om tonårsskador

Avslöjandet som kan fälla Meta – försökte dölja bevis om tonårsskador

blank

En federal domstol i Washington har beslutat att Meta, företaget bakom Facebook, inte får åberopa advokatsekretess för att undanhålla interna dokument och forskningsrapporter om sociala mediers påverkan på tonåringars hälsa.

Beslutet, som rapporterats av Bloomberg Law, är ett bakslag för Meta i de pågående rättsprocesserna mot flera amerikanska delstater som anklagar bolaget för att ha gjort sina plattformar beroendeframkallande – trots vetskap om att de kan skada unga användare.

Domaren Yvonne Williams vid Washingtons högsta domstol slog fast att Metas jurister gett interna instruktioner till anställda om att ”ta bort”, ”blockera” eller ”begränsa” delar av företagets egna studier kring hur sociala medier påverkar ungas psykiska hälsa. Syftet var enligt domstolen att minska den juridiska risken för företaget. Bedömningen blev att agerandet kan ses som ett försök att dölja eller förändra information, vilket innebär att det faller under det så kallade undantaget för brottsligt beteende i advokat-klient-privilegiet. Meta har nu sju dagar på sig att lämna ut fyra dokument som skapats mellan november 2022 och juli 2023.

Motsatte sig

I ett uttalande till Bloomberg motsatte sig Meta beslutet och hävdade att kommunikationen mellan jurister och medarbetare var normal intern rådgivning. Företaget menar att inga forskningsresultat har raderats eller förstörts.

Rättsprocessen är en del av en större juridisk offensiv mot sociala mediejättar, där flera amerikanska delstater och hundratals privata käranden – föräldrar, tonåringar och skolstyrelser – har stämt Meta och andra bolag för att deras plattformar skapar beroende och skadar unga. De första rättegångarna väntas inledas 2026.

Källa: Bloomberg Law

* Den 18 oktober 2018 publicerade Bloomberg en längre text, The Big Hack , där det påstås att Apple, Amazon, Super Micro Computer och ett trettiotal amerikanska företag avlyssnades av den kinesiska underrättelsetjänsten. Inget annat media har lyckats hitta några bevis eller indicier som stöder Bloombergs uppgifter, trots att flera omfattande försök har gjorts bland annat av Washington Post. En av de namngivna källorna  i Bloombergs artikel  förnekar dessutom uppgifterna.

Fram till dags dato så har Bloomberg inte tagit tillbaka sina uppgifter.

Super Micro flyttar tillverkningen – Bloomberg har fortfarande inte dementerat sina uppgifter
Bloomberg håller fortfarande fast vid sin historia om kinesiska hackare
Bloomberg har målat in sig i ett hörn
Bloomberg hade fel och borde medge det
Bloombergs oärliga rapport

Läs mer

Meta tog bort grupp som spårade immigrationsagenter efter påtryckningar från Trump-administrationen

 

Efter fiaskot med Llama 4: Meta sparkar 600 inom AI-avdelningen

 

 

Amazon, Apple och Google betalar för Trumps nya Vita huset-bygge

Amazon, Apple och Google betalar för Trumps nya Vita huset-bygge

blank

Apple är en av flera teknikjättar som bidrar ekonomiskt till byggandet av USA:s expresident Donald Trumps nya balsal på 8 400 kvadratmeter vid Vita huset, rapporterar CNN.

Bygget inleddes den här veckan och den östra flygeln av Vita huset har rivits för att ge plats åt den nya byggnaden. Trump uppger att projektet ska kosta 350 miljoner dollar och finansieras helt genom privata donationer. Kostnaden har därmed stigit med 150 miljoner jämfört med de siffror han tidigare nämnt.

Förutom Apple har även Amazon, Google, Meta, Microsoft och HP donerat pengar till projektet. Hur mycket Apple bidragit med är dock inte känt.

CNN uppger att Trumps senaste kostnadsuppgift på 350 miljoner dollar offentliggjordes under torsdagskvällen.

Källa: CNN

Läs mer

Skandalapparna Tea och TeaOnHer borttagna från App Store

 

Apple har medvind i striden mot Epic Games – domare ifrågasätter förbud mot provision på externa köp

 

Nya brittiska regler kan tvinga Apple och Google att öppna sina appbutiker

 

 

AI skulle rädda dataingenjörerna – nu drunknar de i verktyg

AI skulle rädda dataingenjörerna – nu drunknar de i verktyg

blank

En ny internationell undersökning visar att AI-verktyg som ska effektivisera dataingenjörers arbete i stället riskerar att skapa nya problem. Studien, genomförd av MIT Technology Review Insights i samarbete med Snowflake, omfattade 400 teknikchefer och visar att 77 procent upplever att arbetsbördan för deras dataingenjörsteam ökar, trots att 83 procent redan infört AI-baserade verktyg.

Den främsta orsaken är komplex integration och verktygssplittring. Nästan hälften av de tillfrågade pekar på att olika AI-verktyg inte fungerar sömlöst ihop, och 38 procent upplever problem med att hantera för många separata system. ”Många använder ett verktyg för att samla in data, ett annat för att bearbeta den och ett tredje för analys. Det skapar komplexitet och risker som dataingenjörer inte har tid med,” säger Chris Child, produktchef för data engineering på Snowflake.

Resultatet är ett produktivitetsparadox: varje enskild uppgift går snabbare, men helheten blir mer svårhanterlig. Företag som vill skala upp sina AI-lösningar stöter på en växande flaskhals när verktygen inte är integrerade.

Rollen har förändrats

Två år tillbaka ägnade dataingenjörer i snitt 19 procent av sin tid åt AI-projekt. I dag ligger siffran på 37 procent och väntas stiga till 61 procent inom två år. Rollen har förändrats kraftigt. Tidigare handlade arbetet om att optimera databaser och skriva SQL-kod, men nu kretsar det alltmer kring att bygga och övervaka AI-drivna processer.

”Dataingenjörens uppgift handlar inte längre bara om kodning utan om att skapa tillit och kontext för att säkerställa att AI-resultat är tillförlitliga,” säger Child.

Samtidigt växer problemet med verktygsdjungeln. Företag rapporterar visserligen ökningar i både kvantitet (74 procent) och kvalitet (77 procent) på sitt dataarbete tack vare AI, men dessa vinster äts upp av den tid och det arbete som krävs för att hantera en fragmenterad verktygsmiljö. ”Det är lätt att skapa en prototyp genom att koppla ihop några datakällor, men när det ska sättas i drift blir det svårt utan rätt dataåtkomst och styrning,” säger Child.

Han rekommenderar att företag prioriterar AI-verktyg som både ökar produktiviteten och minskar den operativa komplexiteten. På så sätt kan ingenjörerna fokusera på affärsnytta i stället för på infrastruktur.

Fatta beslut

Undersökningen visar också att 54 procent av företagen planerar att införa så kallad agentisk AI inom de kommande tolv månaderna, medan 20 procent redan har börjat. Agentisk AI syftar på autonoma system som kan fatta beslut och utföra åtgärder utan mänsklig inblandning. Möjligheterna är stora, men riskerna också.

”Innan företag låter agenter hantera produktionsdata krävs två saker: stark styrning och spårbarhet, samt aktiv mänsklig övervakning,” varnar Child. ”Utan det kan agenter oavsiktligt skada datamängder eller exponera känslig information.”

Ett annat problem som studien identifierar är ett glapp i ledningens syn på dataingenjörernas roll. Medan 80 procent av data- och AI-chefer ser dem som avgörande för affärsframgång, håller bara 55 procent av CIO:er med. Skillnaden tros bero på att data- och AI-chefer arbetar nära dessa team, medan CIO:er ofta fokuserar mer på infrastruktur och därmed underskattar den strategiska betydelsen av dataarkitektur.

För att lyckas framöver behöver dataingenjörer utveckla tre centrala färdigheter: AI-kompetens, affärsförståelse och kommunikationsförmåga. Child menar att affärsförståelsen är viktigast. ”Det avgörande är att förstå vad som är mest värdefullt för slutanvändarna och hur du kan göra deras frågor enklare att besvara,” säger han.

Nyckelpersoner

Företag som ser dataingenjörer som strategiska nyckelpersoner, konsoliderar sina verktyg, inför tydliga styrningsramar och ger dessa team mandat att leda AI-arbetet kommer att gå om konkurrenterna. För dem är tidsfönstret kort. Med över hälften av företagen på väg att införa agentisk AI inom ett år riskerar de som inte hanterar verktygssplittringen att fastna i oändliga pilotprojekt.

Källa: MIT Technology Review Insights

Läs mer

Därför hallucinerar AI

 

Tror du AI kan allt? Här är beviset på motsatsen

 

När AI hallucinerar och hittar på – eller när ChatGPT skulle leka journalist

 

ChatGPT vår nya medarbetare försvarar sig: Jag ljuger inte – jag hallucinerar professionellt

 

Det krävs tålamod, massor av tålamod att jobba med AI

 

 

OpenAI köper Shortcuts-skaparna – tar in hela teamet bakom Apples automationer

OpenAI köper Shortcuts-skaparna – tar in hela teamet bakom Apples automationer

blank

OpenAI har köpt företaget Software Applications Incorporated (SAI), mest känt för att ha utvecklat det som senare blev genvägsappen Shortcuts på Apples plattformar. De senaste åren har SAI arbetat med Sky – ett sammanhangsmedvetet AI-lager ovanpå macOS. De ekonomiska villkoren för köpet har inte offentliggjorts.

”Framsteg inom AI handlar inte bara om att utveckla intelligens – utan om att frigöra den genom gränssnitt som förstår sammanhang, anpassar sig till användarens avsikt och fungerar sömlöst,” skrev OpenAI i ett blogginlägg om förvärvet. Företaget uppger vidare att man planerar att ”integrera Skys djupa macOS-kunskap och produktdesign i ChatGPT, och hela teamet kommer att ansluta till OpenAI.”

Det innebär att SAI:s grundare Ari Weinstein (vd), Conrad Kramer (teknikchef) och Kim Beverett (produktchef) nu blir en del av OpenAI. Trion arbetade tidigare tillsammans på Apple, efter att Apple köpte Weinstein och Kramers tidigare företag Workflow – appen som blev grunden till Apples Shortcuts.

Apples API:er

Efter att ha lämnat Apple startade de Sky, som utnyttjar Apples API:er och tillgänglighetsfunktioner för att ge en språkmodell kontextuell information om vad som visas på skärmen. AI:n kan sedan utföra kommandon i naturligt språk över flera applikationer. Ambitionen var att skapa något som påminner om Shortcuts, men utan manuell konfiguration – verktyget skulle generera arbetsflöden direkt utifrån användarens instruktioner.

Tekniken liknar vissa funktioner i OpenAIs nya webbläsare Atlas, som drivs av ChatGPT och lanserades tidigare i veckan. Förvärvet stärker bilden av att OpenAI vill gå längre än att bara vara en fråge- och svarstjänst.

Med SAI-teamets djupa kunskap om macOS kan OpenAI nu utveckla nya sätt för ChatGPT att inte bara ge förslag utan även agera direkt i användarens dator­miljö.

macOS

Hittills har OpenAIs mest avancerade skrivbordsprojekt fokuserat på macOS, vilket kan bero på att en stor del av företagets tidiga användarbas består av webbutvecklare och appskapare som i stor utsträckning använder just macOS.

Det är ännu oklart om utvecklingen av Sky kommer att fortsätta som planerat eller om tekniken helt integreras i OpenAIs egna produkter. Båda företagen antyder dock att affären handlar om mer än bara en macOS-app.

Källa: OpenAI

Läs mer

OpenAI tillåter erotiskt innehåll i ChatGPT för vuxna användare

 

Funktionen som gör ChatGPT mer relevant och effektiv i vardagen

 

OpenAI lanserar ChatGPT Atlas – webbläsaren med inbyggd AI-assistent

 

700 experter och kända namn varnar för AI som överträffar människan