Guia · IA i seguretat
Agents de hacking amb IA: què és real i què canvia.
La IA ja redueix l'esforç necessari per trobar vulnerabilitats: fallades de seguretat que poden permetre accedir a dades o fer alguna cosa sense permís. Google i Mozilla n'han documentat casos reals. L'avenç importa tant a qui protegeix el programari com a qui intenta atacar-lo, i cada vegada arriba a més mans.
Què aporta un agent a una revisió de seguretat
Un model d'IA pot llegir codi i assenyalar un possible error. Un agent pot, a més, fer servir eines, comprovar el que ha trobat i continuar la revisió amb aquell resultat. Aquesta capacitat d'encadenar feina explica per què les millores en programació també es tradueixen en eines de seguretat millors.
El NCSC, l'organisme britànic de ciberseguretat, adverteix que la IA farà més fàcil, ràpid i econòmic descobrir i aprofitar fallades. Per a una empresa, això deixa menys marge per ajornar les correccions. Fonts i versions revisades el 30 de setembre del 2026.
Si necessites aclarir quina autonomia aporta un agent, llegeix on ajuden els agents d'IA i què ha de continuar sota regles.
Tres casos que van més enllà d'una demostració
El juliol del 2025, Google va explicar que el seu agent Big Sleep havia trobat una fallada a SQLite, un component de bases de dades utilitzat en moltes aplicacions. La investigació va partir d'informació del seu equip d'amenaces: hi havia un agent capaç, però també context aportat per persones.
El març del 2026, Mozilla va confirmar 22 fallades de seguretat, 14 de gravetat alta, trobades en col·laboració amb Anthropic. Els seus enginyers les van verificar i corregir a Firefox 148.
A l'abril, Mozilla va informar de 271 fallades més corregides a Firefox 150 després d'avaluar Claude Mythos Preview. Les dues xifres provenen de treballs diferents; no serveixen per calcular quantes vegades havia millorat el model.
El que és rellevant és que els responsables del programari van confirmar els problemes i publicar les correccions. És una prova més sòlida que una resposta convincent d'un xatbot.
Trobar una fallada no és el mateix que entrar en un sistema
No tots els errors permeten el mateix. En una botiga en línia, una fallada podria mostrar dades d'una comanda a la persona equivocada sense donar accés a la resta del negoci. Continua sent greu, però l'abast és diferent de controlar el servidor.
Per això una revisió útil ha d'explicar què falla, a qui afecta i com comprovar que s'ha corregit. Una alerta de l'agent és el principi d'aquesta feina.
- 01 Possible fallada L'agent assenyala una cosa que cal revisar.
- 02 Fallada confirmada Es comprova que el problema existeix.
- 03 Abast conegut Es determina quines dades o funcions afecta.
- 04 Correcció comprovada Es verifica que el canvi resol el problema.
Per què alguns proveïdors limiten aquestes capacitats
Anthropic n'ofereix un exemple concret. El setembre del 2026, reserva Mythos 5.1 a organitzacions verificades. Fable 5.1 comparteix el mateix model de base i permet buscar fallades al codi, però incorpora límits per a les proves d'intrusió i la creació de codi que aprofiti vulnerabilitats.
És a dir, la capacitat existeix encara que el servei en limiti l'ús. Això ajuda a entendre per què una eina accepta revisar una aplicació i rebutja altres tasques. Les condicions depenen del proveïdor i de la versió; no tots els models nord-americans funcionen igual.
GLM-5.3: què sabem de l'avenç dels models xinesos
GLM-5.3, de Z.ai, ja es pot descarregar i executar fora del servei del fabricant. La fitxa tècnica mostra millores respecte de GLM-5.2 tant en programació com en proves de seguretat. Són resultats del fabricant, que convé contrastar amb avaluacions externes.
El 29 de setembre, Anthropic va descriure com GLM-5.3 va trobar fallades desconegudes i les va combinar en un atac funcional contra un navegador, en proves aïllades amb investigadors. També va observar proteccions insuficients davant de l'ús maliciós. És l'avaluació d'un altre fabricant; aporta evidència addicional a la de Z.ai.
El 17 de setembre del 2026, CAISI, el centre nord-americà d'avaluació d'IA del NIST, el va situar com el model de pesos oberts més capaç en ciberseguretat avaluat fins aleshores. Tot i així, va estimar que estava uns quatre mesos per darrere dels líders nord-americans en les seves proves.
Els quatre mesos són una comparació entre models publicats, no una predicció. CAISI també va provar models nord-americans sense les seves restriccions de ciberseguretat quan corresponia. Per a una empresa importa tant què pot fer un model com qui pot accedir a aquestes capacitats.
Què canvia quan el model es pot descarregar
«Pesos oberts» vol dir que es poden descarregar les dades que permeten executar el model en infraestructura pròpia, sota la seva llicència. No obliga a publicar tot el procés d'entrenament ni vol dir que funcioni en qualsevol portàtil: els models grans continuen necessitant equips potents.
La diferència de control és important. Com explica AISI, l'institut britànic de seguretat d'IA, un proveïdor pot bloquejar comptes al seu servei, però té molt menys control sobre les còpies que executen altres persones.
Això amplia l'accés per a investigadors i empreses, i també les possibilitats d'abús. L'accés deixa de dependre exclusivament d'unes quantes plataformes, encara que fer servir bé aquestes eines continuï requerint recursos i coneixements.
Què revisaria avui en un web o una aplicació
Per a qui manté un web, la decisió immediata és revisar quines fallades podrien afectar clients, dades o activitat. Començaria per aquests punts:
- Saber quins serveis són accessibles des d'internet i retirar els que ja no es fan servir.
- Tenir algú responsable d'aplicar les actualitzacions de seguretat, amb un termini clar.
- Comprovar que cada usuari només pot accedir a les seves dades i que les claus privades es mantenen al servidor.
- Donar a cada compte, integració o agent només els permisos que necessita.
- Conservar registres per investigar incidents i provar que les còpies de seguretat es poden restaurar.
La IA també pot ajudar en aquesta revisió. La faria servir sobre codi propi, en un entorn de proves i amb permisos limitats. Una persona ha de confirmar les troballes i revisar les correccions. El resultat útil és un problema resolt; que l'agent no hagi trobat res no garanteix que tot estigui bé.
Per revisar on desa permisos i credencials una aplicació, comença per secrets en apps, claus API i seguretat del servidor.
Fonts i lectures
- Google · Big Sleep, juliol del 2025Troballa a SQLite amb intel·ligència d'amenaces.↗
- Mozilla · març del 2026Validació i correccions a Firefox 148.↗
- Mozilla · abril del 2026Resultats de l'avaluació amb Mythos Preview.↗
- Anthropic · accés i salvaguardesCondicions consultades el 30 de setembre del 2026.↗
- Z.ai · fitxa de GLM-5.3Pesos disponibles i resultats publicats pel fabricant.↗
- Anthropic · estudi de GLM-5.3, 29 de setembre del 2026Capacitats i proteccions avaluades per un altre fabricant en entorns controlats.↗
- CAISI/NIST · GLM-5.3, setembre del 2026Avaluació externa publicada el 17 de setembre i condicions de les proves.↗
- AISI · riscos dels pesos obertsDiferències de control després de distribuir un model.↗
- NCSC · defensa davant de l'avenç de la IAOrientació per a empreses, 15 d'abril del 2026.↗
Dubtes abans de començar
La IA fa més fàcil el hacking?
Sí, redueix el temps i els coneixements necessaris per a algunes tasques, com trobar certes fallades. Això beneficia tant qui revisa programari com qui intenta atacar-lo. L'èxit d'un atac continua depenent del sistema i de les seves defenses.
GLM-5.3 ja iguala els millors models tancats en ciberseguretat?
No segons l'avaluació de CAISI del setembre del 2026. Destaca entre els models de pesos oberts, però continuava per darrere dels líders nord-americans en aquelles proves. El resultat també depèn de les eines i les restriccions amb què s'avalua cada model.
Una revisió amb IA em pot dir si el meu web és segur?
Pot descobrir problemes i ajudar a corregir-los, però no certificar per si sola que el web sigui segur. Cal validar el que s'ha trobat i revisar també permisos, configuració i components externs.