Marques d'aigua en textos d'IA: què poden provar i què no poden provar?

OpenAI ha anunciat el seu enfocament per complir les noves regles europees de procedència del text generat amb IA. La idea és afegir una marca d'aigua invisible a determinades sortides de ChatGPT i Codex a la Unió Europea, i oferir als clients d'API la possibilitat d'activar-la en alguns models.

Per a una pime catalana, la notícia no és només tècnica. És un senyal clar: la transparència sobre l'ús de la IA deixarà de ser una bona pràctica opcional i passarà a formar part de la manera normal de treballar amb continguts, documents, atenció al client i processos interns.

Què és una marca d'aigua en un text d'IA?

Quan pensem en marques d'aigua, sovint imaginem un logotip sobre una imatge. En text és diferent. Segons OpenAI, la seva tecnologia textGrain introdueix un senyal estadístic invisible en les decisions de paraules del model. Després, un detector pot estimar si aquell fragment conté una marca d'aigua d'OpenAI.

Això no vol dir que el text porti caràcters amagats ni metadades fàcils de veure. La marca forma part del patró lingüístic. Per això pot resistir alguns canvis, però també pot debilitar-se si el text és curt, molt editat, traduït o reescrit.

El desplegament arriba en el context de l'AI Act europeu, que incorpora obligacions de transparència per als proveïdors i usuaris de sistemes d'IA. La direcció és clara: quan una persona interactua amb IA o rep contingut generat artificialment, cada vegada serà més important poder-ho explicar.

El que pot provar, i el que no

La part més important de l'anunci és la lletra petita. Una marca d'aigua pot ajudar a detectar que un sistema d'OpenAI ha participat en la generació o transformació d'un text. Però no pot dir-ho tot.

No mesura quanta feina humana hi ha al darrere. No estableix qui és el propietari del contingut. No identifica l'usuari, l'empresa, el compte ni el prompt. Tampoc verifica si el text és cert, adequat o legalment correcte.

I a la inversa: que un detector no trobi marca d'aigua no demostra que el text sigui humà. Pot ser massa curt, pot haver estat editat, traduït, generat abans del desplegament, creat amb un altre model o produït amb una eina que no utilitza aquest sistema.

Aquest punt és clau per a les empreses. Les marques d'aigua no són un jutge. Són un indicador més dins d'un sistema de confiança.

Què hauria de fer una pime?

El primer pas no és comprar una eina de detecció. És ordenar com s'utilitza la IA dins l'empresa.

Una pime que fa servir ChatGPT, Copilot, Gemini, Claude o eines similars hauria de definir en quins casos cal avisar que hi ha IA: textos comercials, respostes d'atenció al client, imatges promocionals, documents interns, informes, continguts per a xarxes o materials formatius.

També convé separar tres preguntes que sovint es barregen. Qui ha generat el primer esborrany? Qui l'ha revisat? Qui n'assumeix la responsabilitat final? La IA pot ajudar molt, però l'empresa continua necessitant criteri, validació i traçabilitat.

Un bon procediment intern pot ser senzill: etiquetar quan la IA ha tingut un paper rellevant, guardar versions finals, revisar dades sensibles abans de compartir-les, i tenir una persona responsable quan el contingut afecta clients, contractes, salut, finances, recursos humans o reputació.

Transparència sense paranoia

La conclusió pràctica és equilibrada. Les marques d'aigua són útils perquè empenyen el mercat cap a més traçabilitat. Però seria un error convertir-les en l'única base de confiança.

Per a una pime, el valor real és aprofitar aquest moment per crear hàbits: saber on s'usa IA, explicar-ho quan toca, revisar els continguts importants i no delegar responsabilitats en una eina automàtica.

La transparència no ha de frenar l'ús de la IA. Ben feta, el fa més professional. I això és exactament el que necessiten moltes empreses: menys improvisació i més criteri per treure profit de la IA amb confiança.

Si vols revisar com està fent servir la IA la teva empresa i quines mesures mínimes de transparència hauries d'aplicar, a Automatitza.cat t'hi podem ajudar amb una primera consulta gratuïta.