Què és RAG en IA i com fer-lo servir amb les dades de la teva empresa

Bruno Díaz Bruno Díaz — Consultor en Màrqueting digital i IA
Actualitzat:
què és RAG en IA per respondre amb les dades del teu negoci

Pregunta a ChatGPT per la política de devolucions de la teva botiga i et respondrà una cosa raonable i segurament falsa, perquè no ha llegit mai les teves condicions.

Una IA que consulta els teus documents abans de respondre

Això és el que corregeix el RAG, sigles en anglès de retrieval-augmented generation, generació augmentada per recuperació. El nom fa més por que la idea. Abans de respondre, el sistema busca als teus documents els fragments que tenen a veure amb la pregunta, els passa al model i li demana que respongui a partir d’aquest material. El model és el mateix, amb la diferència que ara té al davant la pàgina correcta del manual.

Els documents es preparen una vegada. Es trossegen, cada tros es converteix en una representació numèrica del que significa i tot es desa en una base de dades que cerca per semblança, l’anomenada base vectorial. Per això, si algú pregunta si pot tornar un producte rebaixat, el sistema troba el paràgraf encara que hi posi «articles en promoció».

buscar la resposta als documents propis de l'empresa

Per a una pime l’avantatge és doble: les respostes surten de les teves dades i cadascuna pot dir de quin document surt, de manera que comprovar-la és qüestió de segons.

RAG, fine-tuning o enganxar el document: quin et convé

Amb un contracte o un catàleg curt n’hi ha prou d’enganxar-lo a la conversa: cap en el que el model llegeix d’una vegada i no cal muntar res. Deixa de servir quan són centenars de fitxers o quan cada consulta obliga a tornar-los a enganxar.

El fine-tuning reentrena el model amb exemples teus. Serveix per ensenyar-li una manera de fer, un to, un format, una manera de classificar correus, i encaixa malament amb dades que canvien, perquè cada canvi de tarifes obliga a reentrenar. En una pime gairebé mai no és el primer que recomanem.

El RAG encaixa quan hi ha molt material i es mou sovint, perquè actualitzar-lo és substituir el document i reindexar, sense tocar el model.

Muntar un RAG en una pime: bona part del temps se’n va en els documents

Es comença per un cas acotat, mai per la tecnologia: les preguntes de clients sobre el catàleg o els dubtes interns sobre procediments. Després:

  1. Reunir i netejar els documents, que és on se’n va bona part del temps entre PDF escanejats, versions duplicades i tarifes antigues.
  2. Muntar la canonada. A n8n hi ha nodes per carregar documents en una base vectorial com Supabase, Pinecone o Qdrant i consultar-la des d’un agent, amb Claude, GPT o Gemini redactant la resposta per API.
  3. Provar-lo amb les preguntes que van arribar a la bústia de suport l’últim mes abans d’obrir-lo a ningú.
  4. Decidir qui puja els documents nous i cada quant es reindexa, perquè amb dades caducades respon malament i amb molta seguretat.

El pressupost depèn del nombre i l’estat dels documents, de si hi ha permisos que respectar (que el comercial no vegi les nòmines), del canal, sigui xat intern, web o WhatsApp, i del volum de consultes, que marca la despesa mensual d’API. Com a ordre de magnitud, un pilot amb un tipus de document i un canal es compta en setmanes, i un amb diverses fonts i permisos per usuari, en mesos.

Abans d’encarregar-lo, prova amb Claude, ChatGPT o Gemini Notebook

A Claude els projectes són fins i tot al compte gratuït, amb un màxim de cinc. Hi puges els documents i cada conversa del projecte els consulta, i als plans de pagament, quan el material s’acosta al límit del que el model pot llegir, Claude activa tot sol un mode RAG.

Amb ChatGPT hi ha hagut un canvi: els comptes personals (Free, Go, Plus i Pro) ja no poden crear GPT nous, això queda per als espais Business, Enterprise i Edu. L’equivalent per a tu són els projectes de ChatGPT, amb un límit de 5 fitxers per projecte al pla gratuït, 25 a Go i Plus i 40 a Pro i Business.

NotebookLM, que Google ha rebatejat com a Gemini Notebook, admet 50 fonts per quadern de franc i 300 a Pro, i assenyala el passatge d’on surt cada resposta.

És el que us direm abans de pressupostar res: feu la prova amb les preguntes que rebeu de veritat. Se us ha quedat curt si els documents no hi caben, si canvien tan sovint que tornar-los a pujar es converteix en una tasca fixa, si ha de respondre clients fora de l’eina, si cada persona n’ha de veure només una part o si la resposta surt d’un sistema viu com l’ERP o la botiga en línia. Si no passa res d’això, ja teniu el que buscàveu pel preu d’una subscripció.

Si algun d’aquests senyals et sona, explica-nos-ho i mirem quina part del teu cas demana un desenvolupament a mida.

Sobre l'autor

Bruno Díaz — Consultor en Màrqueting digital i IA

Consultor de màrqueting digital especialitzat en SEO, SEM i projectes web. Tinc dos màsters en IA (el títol i els anys d'experiència amb ella). Ara aplico aquesta experiència per generar noves oportunitats i més productivitat als nostres clients.

Articles de Bruno

Parlem

Tens un projecte al cap?

Explica-ho i fem créixer el teu negoci junts.

Analitzar les meves oportunitats de venda