Agents d'IA per a pimes: on ajuden i on no.

01 /Comença per la tasca, no per l'agent

Una automatització normal segueix un recorregut definit: quan arriba una factura pagada, l'adjunta a la comanda corresponent i tanca la tasca. A un agent se li dona un objectiu i un conjunt limitat d'eines, i decideix alguns passos: llegir una sol·licitud poc habitual, triar quin registre importa, demanar una dada que falta o preparar una resposta.

Aquesta diferència importa més que el nom del model. Si pots escriure els passos i les excepcions correctes, un flux fix sol ser més econòmic, ràpid i fàcil de provar. Fes servir un agent per a la part ambigua quan les regles existents no siguin suficients.

Abans de triar un model, comprova quan compensa automatitzar un procés amb regles.

02 /Tasques adequades per provar un primer agent

Els millors candidats arriben com a text o documents desordenats, però acaben en un resultat concret i comprovable. Per exemple: classificar sol·licituds dins d'una cua existent, trobar la política pertinent abans que respongui un company, comparar un document del proveïdor amb una comanda o preparar un esborrany que una persona ja revisa.

La tasca s'ha de repetir prou per poder-la mesurar, tolerar una petita espera i tenir exemples de resultats acceptables. També necessita una sortida clara: si les proves es contradiuen, falta un camp o hi ha massa incertesa, l'agent s'ha d'aturar i passar el cas a una persona en lloc d'improvisar.

• Una persona pot comprovar el resultat de pressa sense repetir tota la feina.
• Els documents disponibles contenen prou proves per decidir.
• Un error es pot contenir abans que afecti diners, accessos o promeses als clients.
• Les eines ofereixen accions petites, no un compte amb poder il·limitat.
• Hi ha prou exemples reals, inclosos els incòmodes, per provar abans del llançament.

Si la tasca connecta programes existents, compara què són els bots i l'RPA i com treballen plegats.

03 /Exemple pràctic: classificar una bústia compartida

Imagina una empresa fictícia de manteniment amb una única bústia per a avaries, sol·licituds de pressupost i missatges de proveïdors. Avui una coordinadora llegeix cada correu, busca el client al sistema de feines, crea una tasca i reenvia el que és urgent. L'agent útil no «gestiona l'atenció al client». Extreu uns quants camps, consulta un client, proposa categoria i urgència, i deixa una tasca preparada per revisar.

El flux fix continua comprovant els camps obligatoris, escriu la tasca aprovada i envia l'acusament de recepció estàndard. Una persona aprova el que és urgent i el que l'agent no pot associar. Així el model s'ocupa de llegir el que varia, mentre que les promeses al client i els canvis a la base de dades continuen sent deterministes.

El pilot es pot avaluar amb els missatges d'un mes anterior: categoria correcta, client correcte, urgències omeses, derivacions innecessàries i temps de revisió. «Les respostes semblen bones» no és un criteri de llançament.

04 /Què hauria de continuar sent previsible

No demanis a un model que calculi un preu que ja té fórmula, decideixi un permís que ja té política o mogui diners perquè un missatge sembla convincent. Els càlculs exactes, el control d'accés, la retenció legal, els canvis d'inventari i els pagaments finals corresponen al codi i a regles explícites. L'agent pot reunir proves o explicar una excepció; el sistema ha d'imposar el límit.

Passa el mateix quan no hi ha una manera fiable de jutjar la resposta. Un paràgraf fluid pot amagar una decisió poc fonamentada. Si qui revisa ha d'investigar el cas des de zero cada vegada, l'agent ha estalviat poc i pot afegir una confiança que no es mereix.

05 /Dissenya el traspàs a una persona abans que el cas perfecte

La revisió humana no és un botó que s'afegeix al final. Decideix què veurà qui revisi: el material original, l'acció proposada, les proves utilitzades i què ha canviat. Aprovar i corregir ha de ser prou senzill perquè la gent faci servir el sistema en lloc de buscar dreceres.

Defineix condicions que sempre requereixin revisió: imports alts, clients nous, dades sensibles o documents contradictoris. Deixa passar casos ordinaris de poc impacte només quan la taxa d'error mesurada ho avali. Conserva l'entrada original i un registre d'accions per poder reconstruir una decisió.

Les guies de risc d'IA del NIST tracten la governança, les proves, l'observació i l'assignació clara de responsabilitats humanes com una feina contínua, no com una llista que es marca una sola vegada. En una pime la implementació pot ser modesta, però els responsables també han de tenir nom.

06 /Prepara una prova pilot que pugui detectar els errors

Tria un canal d'entrada, un tipus de cas i una sortida. Executa primer l'agent sobre exemples històrics i després en paral·lel, sense intervenir en el procés actual. Registra quan encerta, quan s'absté, quant costa i quant triga la revisió. Inclou-hi casos expressament difícils en lloc de polir una demo al voltant dels deu més fàcils.

Fixa una condició d'aturada abans de provar: per exemple, cap urgència omesa en el conjunt de proves, una reducció clara del temps de revisió i un cost màxim per cas. Si no es compleix, acota més la tasca o fes servir regles. Un pilot que demostra que l'agent no és l'eina adequada també ha evitat un error més gran.

Per acotar aquesta prova, distingeix què demostren una demo, un prototip i un MVP.

07 /Limita què pot veure i fer l'agent

Dona-li eines fetes per a una sola finalitat: llegir una comanda, preparar una tasca, proposar una actualització. No li lliuris una credencial general de base de dades ni una sessió de navegador sense restriccions. Valida amb codi convencional tots els arguments de les eines, limita els reintents i la despesa, i exigeix aprovació per a accions irreversibles.

Tracta els documents, les pàgines web i els correus entrants com a dades no fiables. Poden contenir instruccions adreçades al model en lloc del procés de negoci. Separa aquest contingut de les instruccions del sistema, restringeix els permisos i registra les crides i els resultats. OWASP descriu l'excés de capacitat d'acció —massa funcions, permisos o autonomia— com un risc central d'aquests sistemes.

Finalment, prepara't per als canvis. Els models, les instruccions i els documents font evolucionen. Conserva un petit conjunt de casos reals, torna'l a executar abans de cada canvi i observa els resultats en producció en lloc de donar per fet que l'encert d'ahir continuarà.

Per entendre com canvia aquesta revisió amb models més capaços, llegeix agents de hacking amb IA: avenços reals i límits.