LFM3 de Liquid AI: quan té sentit una IA petita i local per a una pime?
Liquid AI presenta LFM3, models petits especialitzables. Com valorar una IA local segons qualitat en català, privacitat, cost i manteniment.
Una empresa no necessita sempre el model d’IA més gran. Si la feina consisteix a classificar consultes, extreure camps de documents o donar suport a una tasca molt concreta, un model petit pot ser una alternativa que valgui la pena provar. Sobretot quan interessa executar-lo en infraestructura pròpia o mantenir una funció disponible sense connexió permanent.
Liquid AI ha presentat LFM3, una família de models pensada per especialitzar-se i executar-se en dispositius i entorns diversos. La novetat obre opcions per a les pimes, però també obliga a distingir entre descarregar un model i disposar d’un servei fiable, mantingut i útil per a l’equip.
Què proposa LFM3
Segons l’anunci original de Liquid AI, la família inclou models de text, visió, àudio, combinació de modalitats i decisions estructurades, tots al voltant dels dos mil milions de paràmetres. No tots accepten les mateixes entrades: cal escollir la variant adequada, no assumir que qualsevol LFM3 processa veu, imatges i documents indistintament.
El fabricant afirma que el model de text pot ocupar aproximadament 1 GB amb una representació de quatre bits i que els models es poden adaptar amb una sola GPU. Aquestes xifres no equivalen a la memòria total d’una aplicació ni garanteixen que qualsevol targeta gràfica sigui suficient. El context, la concurrència, les eines i el mètode d’adaptació també consumeixen recursos.
Els resultats comparatius publicats són del desenvolupador. Serveixen per identificar una tecnologia candidata, no per assegurar que superarà una altra solució amb els documents de la teva empresa.
Quan pot tenir sentit executar la IA localment
Un primer escenari és una tasca repetitiva i acotada. Per exemple, preparar una classificació de missatges de suport o extreure unes dades determinades d’un document perquè una persona les revisi. Són exemples de possibles aplicacions, no resultats demostrats aquí amb LFM3.
Un segon escenari és un lloc de treball amb connectivitat limitada. Executar el model al dispositiu pot evitar que cada consulta depengui d’una petició externa. Cal comprovar, però, que la resta de l’aplicació també pugui funcionar sense connexió.
També pot interessar un major control sobre el tractament de la informació. Si el processament es fa realment en infraestructura pròpia, es poden evitar determinades transferències a proveïdors externs. Això no converteix automàticament el sistema en segur ni resol, per si sol, les obligacions sobre dades personals.
Local no vol dir gratuït ni privat per defecte
El cost no desapareix: canvia de lloc. Cal comptar equipament, energia, integració, actualitzacions, còpies i temps de manteniment. Per a un volum petit de consultes, un servei al núvol pot resultar més convenient que gestionar infraestructura pròpia.
La privacitat també depèn del disseny complet. Una interfície pot enviar registres, diagnòstics o contingut a altres serveis encara que el model s’executi localment. Abans d’introduir informació sensible, cal revisar el recorregut de les dades, els accessos i la conservació dels registres.
I disposar dels pesos del model no significa tenir llibertat d’ús il·limitada. Comprova la llicència i les condicions de la variant concreta, especialment si la vols incorporar a un producte o prestar un servei a tercers.
La prova decisiva: els teus documents i el teu català
Prepara un conjunt de casos reals amb respostes revisades per l’equip. Inclou català, terminologia pròpia, documents incomplets i exemples en què el sistema hauria de reconèixer que no pot respondre. En àudio, afegeix soroll, noms propis i les varietats lingüístiques que realment utilitzeu.
Mesura encerts, errors, temps de resposta i feina de correcció. Compara amb el procés actual i amb una alternativa senzilla. Una eina que respon ràpid però confon referències o obliga a revisar-ho tot pot no aportar l’estalvi esperat.
Comença sense adaptar el model i comprova fins on arriba. Només després valora si convé ajustar-lo amb exemples propis, incorporar cerca documental o canviar de model. Entrenar no és sempre la primera resposta a un problema de qualitat.
Si vols valorar si una IA petita i local encaixa en una tasca de la teva empresa, a Automatitza.cat t’oferim una primera consulta gratuïta per comparar opcions amb criteris de qualitat, cost i manteniment.