Easy ChatGPT Downgrade Attack Undermines GPT-5 Security

av | aug 27, 2025 | Bluesky, Mastodon, Notiser, Threads

A simple, newly described technique allows ChatGPT users to route malicious prompts to large language models (LLMs) older and less secure than OpenAI’s flagship GPT-5.

Researchers from Adversa have given their technique the short and sweet name ”Prompt-based Router Open-Mode Manipulation Induced via SSRF-like Queries, Reconfiguring Operations Using Trust Evasion,” or ”PROMISQROUTE” for short(ish). In practice, it’s far less technical than the name would suggest. A user can effectively downgrade ChatGPT for whatever nefarious purposes they may wish by leaving brief, plain clues in their prompts that are likely to influence the app to query those older models.

Dark Reading

Prenumerera
Nortis om
guest

Denna webbplats använder Akismet för att minska skräppost. Lär dig om hur din kommentarsdata bearbetas.

0 Comments
Nyaste
Äldsta Mest röstade
Inline Feedbacks
Se alla kommentarer

blank

Mikael Winterkvist

Fyrabarns-far, farfar, morfar och egen företagare i Skellefteå med kliande fingrar. Jag skriver om fotografering, sport, dataprylar, politik, nöje, musik och film. Vid sidan av den här bloggen så jobbar jag med med det egna företaget Winterkvist.com. Familjen består av hustru, fyra barn (utflugna) och fem barnbarn.

Jag har hållit på med datorer sedan tidigt 1980-tal och drev Artic BBS innan Internet knappt existerade. Efter BBS-tiden har det blivit hemsidor, design, digitala medier och trycksaker. Under tiden som journalist jobbade jag med Mac men privat har det varit Windows som har gällt fram till vintern 2007. Då var det dags att byta och då bytte vi, företaget, helt produktionsplattform till macOS. På den vägen är det.

_____________________________________________________________________________________

Anmäl dig till Magasin Mackens nyhetsbrev

Du får förhandsinformation om Macken, våra planer och du får informationen, först och direkt till din mail. Vi lovar att inte skicka din information vidare och vi lovar att inte skicka ut mer än max ett nyhetsbrev per månad.

Anmäl dig här

_____________________________________________________________________________________

De senaste inläggen:

TV4 lämnar marknätet – blir betalkanal vid årsskiftet

TV4 lämnar marknätet – blir betalkanal vid årsskiftet

Vid årsskiftet sker en historisk förändring för svensk tv. TV4 lämnar marknätet och upphör därmed att vara en fri tv-kanal som hushåll kan ta emot med vanlig antenn. I stället samlar kanalen sina resurser kring streamingtjänsten TV4 Play. Där går…

läs mer
Tyska banker stoppar PayPal-betalningar på över 10 miljarder euro

Tyska banker stoppar PayPal-betalningar på över 10 miljarder euro

Tyska banker stoppade i måndags PayPal-betalningar till ett värde av över 10 miljarder euro, motsvarande drygt 120 miljarder kronor, på grund av misstankar om omfattande bedrägerier. Det rapporterar Süddeutsche Zeitung. Tidningen skriver att bankerna flaggade för miljontals misstänkta autogireringar som…

läs mer
Tesla rasar i Europa – BYD ökar kraftigt

Tesla rasar i Europa – BYD ökar kraftigt

Teslas försäljning föll kraftigt i Europa under juli, samtidigt som den kinesiska konkurrenten BYD fortsätter att vinna mark. Enligt branschorganisationen ACEA registrerades 8 837 nya Teslor i EU, Efta och Storbritannien förra månaden. Det är en nedgång med 40 procent…

läs mer