Teknik · Nyhet
Googles säkerhetsagent hittade över 500 XSS-fel – men bara efter att den bevisat dem
Google beskriver PageBreak som en AI-agent som inte nöjer sig med att peka ut misstänkta säkerhetsbrister. Den försöker också visa att de faktiskt går att utnyttja.
Summering
- Google beskriver PageBreak som en intern agent för säkerhetsarbete som används för att skala upptäckten av sårbarheter.
- Google uppger att PageBreak har hittat över 500 XSS-sårbarheter i Googles förstapartstjänster.
- Systemet använder särskilda validerare som ska kunna genomföra en faktisk nyttolast och kontrollera om en misstänkt sårbarhet går att utnyttja.
Det räcker inte att ropa sårbarhet
AI-system är bra på att hitta saker som ser misstänkta ut. Det är också deras problem. I säkerhetsarbete kan en lista med möjliga fel snabbt bli längre än någon människa hinner kontrollera, och ett system som blandar riktiga brister med gissningar skapar inte automatiskt bättre skydd. Googles PageBreak bygger därför på en hårdare idé. Agenten ska inte nöja sig med att säga att en XSS-sårbarhet verkar finnas. Den ska försöka visa att den går att utnyttja med en faktisk nyttolast och därmed minska avståndet mellan misstanke och bevis.
Över 500 fynd – enligt Google
Google uppger att PageBreak har hittat över 500 XSS-sårbarheter i företagets förstapartstjänster. Teknoblog rapporterar samma siffra och beskriver valideringen som en central del av systemets metod. Det är ett stort antal, men siffran behöver läsas med den vanliga säkerhetsjournalistiska försiktigheten: Googles egen beskrivning är källan till själva totalsiffran. Det viktiga är därför inte att behandla 500 som ett magiskt mått på hur smart agenten är. Det viktiga är vad som räknas som ett bekräftat fynd, hur många försök som sorteras bort och hur säkerhetsteamen prioriterar det som faktiskt återstår.
AI-agenten behöver en verklighetskontroll
PageBreaks validerare är intressanta eftersom de försöker lösa just den del av AI-säkerhet som ofta blir mest irriterande. Ett språkmodellssvar kan låta övertygande även när det bygger på en felaktig tolkning. En fungerande nyttolast är inte hela sanningen, men den ger åtminstone ett testbart resultat. Det innebär inte att människan blir överflödig. Någon måste fortfarande avgöra hur allvarlig bristen är, om den är åtkomlig i rätt sammanhang och vilken åtgärd som inte skapar nya problem. Agenten kan korta vägen till bevis. Den kan inte ensam sätta risken i sitt sammanhang.
Det här är mindre glamoröst än en chatbot
PageBreak visar en mindre prydlig men mer användbar bild av AI-agenter. Det handlar inte om att en modell skriver ett snyggt svar på en sekund. Det handlar om att låta ett system göra många försök, följa upp dem och lägga fram resultat som andra kan kontrollera. Det låter mer som automatiserad ingenjörskonst än som den AI-magi som brukar dominera produktpresentationer. För säkerhetsarbete är det en fördel. Ett verktyg får gärna vara imponerande, men det måste framför allt lämna efter sig spår som går att granska.
Den verkliga vinsten är bättre prioritering
Googles projekt är mest intressant om det kan göra säkerhetsteamen mer selektiva, inte bara snabbare. Färre falska larm betyder att människor kan lägga mer tid på de brister där konsekvenserna faktiskt är stora. Men det kräver att valideringen fungerar i praktiken och att organisationen vågar redovisa vad som inte fungerade. PageBreaks stora löfte är alltså inte att AI har ersatt säkerhetsforskaren. Det är att agenten kan ta över en större del av det repetitiva sökandet utan att lämna över hela sanningsansvaret. I en tid när alla vill ha mer automatisering är den begränsningen värd att ta på allvar.