Agents d'IA a l'empresa: com aprofitar-los sense donar-los les claus de casa

OpenAI ha explicat que els seus agents han accelerat la feina interna de recerca fins al punt de parlar d'un “research intern” automatitzat: un sistema capaç de fer tasques ben definides sota direcció humana. Alhora, mitjans com CBS News han recollit que agents d'OpenAI van interactuar de manera inesperada amb webs governamentals dels Estats Units durant revisions internes de comportament.

La lectura per a una pime catalana no hauria de ser “no fem servir agents”. Seria una conclusió massa fàcil i poc útil. La lectura bona és aquesta: quan una IA pot navegar, llegir, escriure, clicar, executar codi o connectar-se a eines internes, ja no estem parlant només d'un xat. Estem parlant d'un actor dins del sistema. I un actor necessita límits.

Fonts: OpenAI sobre l'acceleració de recerca amb agents i CBS News sobre interaccions inesperades d'agents amb webs governamentals.

Un agent no és una eina qualsevol

Una eina de xat respon preguntes. Un agent pot encadenar passos: buscar informació, resumir-la, entrar en una aplicació, omplir un formulari, generar un fitxer, enviar una petició o preparar una acció perquè algú l'aprovi.

Aquesta diferència és important. Si una persona de l'equip s'equivoca copiant una dada, el dany acostuma a ser localitzat. Si un agent té accés a deu sistemes i interpreta malament una instrucció, pot escalar l'error molt més ràpid. No perquè “vulgui” fer res estrany, sinó perquè el seu espai d'acció és massa gran.

Per això, abans de pensar en agents autònoms, cal pensar en permisos. Quines carpetes pot llegir? Quines aplicacions pot obrir? Pot escriure o només proposar? Pot enviar comunicacions externes? Pot modificar dades de clients? Pot executar accions fora de l'horari laboral?

Com començar sense donar-li les claus de casa

El primer pas no és comprar una eina amb moltes promeses. És escollir un procés petit, repetitiu i verificable. Per exemple: revisar factures entrants, preparar resums comercials, classificar leads, detectar incidències en tiquets o generar esborranys de resposta.

En aquesta primera fase, l'agent hauria de treballar amb permisos mínims. Millor lectura que escriptura. Millor esborrany que enviament automàtic. Millor una carpeta concreta que tot el Drive. Millor dades anonimitzades que dades sensibles. I millor un entorn de proves que producció.

Això no frena la innovació. La fa més sostenible. Una empresa que desplega agents amb control pot aprendre ràpid sense exposar-se a errors difícils d'explicar després.

La checklist bàsica abans de producció

Abans de deixar que un agent actuï sobre processos reals, una pime hauria de tenir, com a mínim, aquests punts resolts:

• Objectiu concret: què ha de fer i què no ha de fer.
• Permisos limitats: només les dades i eines imprescindibles.
• Registre d'activitat: què ha llegit, què ha proposat i què ha executat.
• Aprovació humana: obligatòria per a enviaments, compres, canvis de dades o decisions amb impacte en clients.
• Proves amb casos reals: incloent errors, excepcions i instruccions ambigües.
• Pla de parada: qui pot desactivar-lo i en quins casos.

Aquesta checklist sembla senzilla, però evita molts problemes. El risc no és només tecnològic. També és organitzatiu: ningú sap qui supervisa l'agent, ningú revisa els logs i tothom assumeix que “ja ho mirarà algú”.

El valor real: agents amb supervisió

Els agents poden ser molt útils per a empreses petites. Poden reduir feina administrativa, accelerar anàlisi, ajudar equips comercials, preparar informes i connectar informació dispersa. Però el seu millor ús no és substituir el criteri humà, sinó treure soroll perquè les persones decideixin millor.

La clau és dissenyar-los com a col·laboradors supervisats. Un agent pot preparar. Pot buscar. Pot comparar. Pot detectar anomalies. Pot proposar. Però les accions sensibles han de tenir una porta humana, sobretot al principi.

A Automatitza.cat ho veiem així: la IA no ha d'entrar a l'empresa com una caixa negra amb permís per tocar-ho tot. Ha d'entrar com un procés ben definit, amb objectius, límits i mètriques. Primer una tasca. Després un flux. Després, si funciona, una automatització més ampla.

Si vols veure quins processos de la teva empresa podrien convertir-se en agents útils sense perdre control, podem revisar-ho en una consultoria gratuïta i aterrar-ho a un primer pilot segur.