Un agent IA comercial no només conversa. Si està ben integrat, pot llegir formularis, consultar una base de coneixement, revisar dades del CRM, crear tasques, resumir emails, derivar oportunitats i activar fluxos de seguiment.
Aquesta capacitat és precisament el que el fa útil. També és el que obliga a dissenyar-lo amb privacitat, seguretat i control des del principi.
El problema no acostuma a estar en “fer servir IA”. El problema apareix quan un agent accedeix a més dades de les necessàries, fa servir eines amb permisos excessius, desa memòria sense criteri, respon amb informació confidencial o executa accions comercials sense supervisió. En processos de venda, prevenda i atenció inicial, aquests errors poden afectar dades personals, informació comercial, confiança del client i reputació.
Aquest article complementa la guia d’automatització comercial amb IA, les regles de negoci en agents IA, l’article sobre què no hauria d’automatitzar un agent IA comercial i el procés de handoff humà entre IA i persona.
En resum
La privacitat i la seguretat d’un agent IA comercial depenen de quatre decisions: quines dades pot fer servir, quines eines pot tocar, quins permisos té i quan ha d’intervenir una persona. Un agent segur no és el que promet fer-ho tot, sinó el que opera amb límits clars, fonts controlades, permisos mínims, traçabilitat i supervisió humana real.
La regla pràctica és aquesta: si l’agent toca dades personals, CRM, emails, documents interns o accions externes, la seguretat no pot ser una capa posterior. Ha de formar part de l’arquitectura del flux comercial.
La idea principal: seguretat des del disseny
Un agent IA comercial s’ha de dissenyar com un sistema connectat, no com una interfície de chat afegida a una web. L’AEPD tracta la IA agèntica com una tecnologia que introdueix reptes específics per la seva autonomia, memòria, accés a dades, interacció amb eines i capacitat d’actuar en nom d’una organització.
Això canvia l’ordre de treball. Abans de triar model, proveïdor o automatització, cal respondre preguntes operatives:
- Quin procés comercial es vol millorar?
- Quines dades necessita l’agent per fer-ho?
- Quines dades no hauria de veure mai?
- Quines eines pot fer servir?
- Quines accions pot executar sense aprovació?
- Quines accions només pot preparar com a esborrany o recomanació?
- Què queda registrat per a auditoria i millora?
Si aquestes respostes no existeixen, l’agent queda governat per una barreja de prompt, permisos tècnics i bones intencions. Per a una empresa o agència, això no és suficient.
Quines dades toca un agent IA comercial
La privacitat comença pel mapa de dades. En automatització comercial, l’agent acostuma a treballar amb entrades molt variades: formularis, chats, emails, CRM, eines internes, bases de coneixement, documents comercials i resultats d’altres APIs.
No totes aquestes dades tenen el mateix risc. Un nom i un email no tenen el mateix impacte que una necessitat contractual, un pressupost, una dada financera, una queixa, una credencial o informació de salut.
| Tipus de dada | Exemples habituals | Risc principal | Control recomanat |
|---|---|---|---|
| Dades de contacte | Nom, email, telèfon, empresa. | Ús excessiu o conservació innecessària. | Recollir només el necessari i definir retenció. |
| Context comercial | Necessitat, urgència, pressupost, mida d’empresa. | Inferències incorrectes o exposició interna indeguda. | Classificació limitada i revisió de resums. |
| Dades de CRM | Contactes, negocis, propietaris, historial, notes. | Accés excessiu i canvis no autoritzats. | Scopes mínims i separació lectura/escriptura. |
| Converses | Chat, email, transcripcions, formularis llargs. | Inclusió accidental de dades sensibles. | Filtratge, sanejament i etiquetes de sensibilitat. |
| Base de coneixement | FAQs, serveis, condicions, processos, documents interns. | Respostes amb informació no aprovada. | Fonts versionades i contingut autoritzat. |
| Eines connectades | CRM, calendari, email, n8n, APIs internes. | Execució d’accions externes o irreversibles. | Aprovació humana i límits per eina. |
| Memòria i logs | Historial, resums, decisions, errors. | Retenció excessiva o accés per perfils no adequats. | Terminis, compartimentació i auditoria. |
| Dades sensibles | Salut, identificació, dades financeres completes, credencials. | Incompliment, exposició o ús no esperat. | Evitar-les excepte necessitat clara, base jurídica i controls reforçats. |
El criteri no és “com més dades, millor agent”. El criteri correcte és “les dades mínimes que permeten resoldre el cas amb seguretat”.
Riscos principals de privacitat i seguretat
Els riscos d’un agent IA comercial no es limiten al fet que la resposta sigui incorrecta. El risc real apareix quan una resposta incorrecta es combina amb eines, dades o permisos.
OWASP classifica diversos riscos rellevants per a aplicacions LLM. Per a un agent comercial, els més importants són prompt injection, exposició d’informació sensible i agència excessiva. L’AEPD afegeix riscos específics d’IA agèntica: memòria, autonomia, transparència, supervisió humana, accés a informació externa, retenció excessiva, falta de compartimentació i biaix d’automatització.
| Risc | Què és | Conseqüència possible | Com reduir-lo |
|---|---|---|---|
| Prompt injection | Una entrada directa o externa intenta alterar el comportament de l’agent. | Accés no autoritzat a funcions, filtració d’informació o accions incorrectes. | Validar entrades, aïllar instruccions, limitar eines i revisar accions sensibles. |
| Exposició d’informació sensible | L’agent rep o retorna dades personals, financeres, legals, credencials o informació interna. | Violació de privacitat, pèrdua de confiança o fuga d’informació comercial. | Minimització, redacció, control de fonts, permisos i polítiques de sortida. |
| Permisos excessius | L’agent té accés ampli al CRM, email, workflows o APIs. | Lectura o escriptura de dades fora de la seva funció. | Scopes mínims, rols específics, separació de lectura i escriptura. |
| Autonomia excessiva | L’agent executa accions d’alt impacte sense aprovació. | Enviaments incorrectes, canvis en CRM, promeses comercials o decisions irreversibles. | Human-in-the-loop, esborranys, aprovacions i límits durs. |
| Memòria mal governada | Es conserva informació sense necessitat, termini o compartimentació. | Retenció excessiva, barreja de contextos o accés indegut posterior. | Retenció estricta, memòria per cas i esborrat controlat. |
| Eines no controlades | L’agent pot cridar APIs o workflows genèrics. | Accions fora d’abast i automatitzacions fràgils. | Catàleg d’eines, llistes permeses i validació de paràmetres. |
| Falta de traçabilitat | No queda clar quines dades va fer servir, què va decidir o quina acció va executar. | Impossibilitat d’auditar errors o respondre davant incidents. | Logs, IDs de conversa, esdeveniments, responsable i resultat. |
| Dependència del proveïdor | No es revisen polítiques d’entrenament, retenció, xifratge o suport empresarial. | Riscos de compliment i bloqueig operatiu. | Avaluar proveïdor, contractes, retenció, xifratge i controls d’administració. |
La seguretat no consisteix a bloquejar tota automatització. Consisteix a reduir la superfície de risc perquè l’agent pugui operar en una zona controlada.
Flux de disseny segur per a un agent IA comercial
Un flux segur comença abans d’escriure el prompt. Comença amb el cas d’ús, el mapa de dades i la decisió sobre autonomia.
La seqüència pràctica seria:
- Definir el cas d’ús comercial concret.
- Mapar dades d’entrada, dades recuperades i dades generades.
- Classificar sensibilitat i impacte.
- Reduir abast si apareixen dades sensibles o accions d’alt impacte.
- Definir permisos mínims per eina.
- Limitar fonts de coneixement i memòria.
- Afegir revisió humana per a accions externes o irreversibles.
- Registrar activitat, errors, escalats i decisions.
- Revisar periòdicament converses, permisos i mètriques.
El valor de l’agent augmenta quan opera amb límits. Sense límits, qualsevol millora de productivitat es converteix en deute de seguretat.
Permisos, eines i límits
Un agent IA comercial no s’hauria de connectar a sistemes interns amb permisos d’administrador si només necessita llegir contactes o crear una tasca. Tampoc hauria de tenir una eina genèrica per “fer qualsevol canvi en el CRM” quan n’hi ha prou amb una acció granular: crear nota, crear tasca, actualitzar estat de qualificació o enviar alerta interna.
OWASP descriu l’agència excessiva com una combinació de funcionalitat excessiva, permisos excessius i autonomia excessiva. En vendes, això es tradueix en tres preguntes:
- Funcionalitat: quines eines pot fer servir l’agent?
- Permisos: quines dades i accions permet cada eina?
- Autonomia: pot executar sol o necessita aprovació?
Un disseny prudent separa lectura, escriptura i accions externes.
| Acció de l’agent | Permís recomanat | Supervisió recomanada |
|---|---|---|
| Llegir FAQ pública o base de coneixement aprovada. | Lectura limitada. | Revisió periòdica per mostreig. |
| Resumir una conversa comercial. | Lectura del fil concret. | Revisió si hi ha dades sensibles o confiança baixa. |
| Crear una tasca interna de seguiment. | Escriptura limitada a tasques. | Automàtica si és reversible i de baix impacte. |
| Actualitzar una propietat de qualificació. | Escriptura limitada a camps concrets. | Revisió si afecta prioritat, owner o descart. |
| Enviar un email extern. | Esborrany o enviament restringit. | Aprovació humana per a missatges comercials rellevants. |
| Modificar un deal, preu o contracte. | No autònom. | Només assistència i escalat a persona. |
| Accedir a dades sensibles del CRM. | Scope específic i justificat. | Control reforçat, registre i necessitat documentada. |
En plataformes com HubSpot, l’accés a dades sensibles fa servir scopes específics i processos de revisió. En eines d’automatització com n8n, els ajustos de seguretat d’instància permeten reforçar 2FA i controlar compartició o publicació de workflows i credencials. En tots dos casos, la idea és la mateixa: l’agent ha de tenir només la capacitat necessària per a la seva feina.
Privacitat: minimització, base jurídica i expectatives
En un procés comercial, l’empresa no hauria d’enviar al model totes les dades disponibles “per si ajuden”. La minimització exigeix seleccionar el que cal per a l’objectiu de l’agent.
L’EDPB recorda que, quan es processa informació personal en models o sistemes d’IA, l’avaluació ha de considerar base jurídica, necessitat, proporcionalitat, expectatives raonables de les persones i mesures mitigadores. Això no significa que cada agent comercial requereixi la mateixa anàlisi, però sí que no convé tractar totes les dades com si fossin intercanviables.
Per a un agent IA comercial, el checklist mínim de privacitat hauria d’incloure:
- Finalitat: quin procés millora l’agent i per a què es fa servir cada dada.
- Necessitat: quines dades són realment necessàries per qualificar, resumir o derivar.
- Proporcionalitat: si hi ha una forma menys intrusiva d’assolir el mateix resultat.
- Expectatives: si el lead o client pot esperar raonablement aquest ús de les seves dades.
- Transparència: què es comunica sobre l’ús d’IA, automatització i tractament de dades.
- Retenció: quant temps es conserven converses, resums, logs i memòria.
- Drets: com s’atenen accés, rectificació, supressió o altres drets aplicables.
- Tercers: quins proveïdors reben dades i sota quines condicions.
Això no substitueix una revisió legal quan hi ha dades sensibles o alt impacte. Serveix com a base de disseny per no construir el sistema a cegues.
Seguretat operativa en proveïdor IA, CRM i automatització
L’agent no viu aïllat. Normalment depèn d’almenys tres capes:
- Proveïdor d’IA: model, API, retenció, xifratge, controls empresarials i auditoria.
- CRM o base comercial: contactes, empreses, leads, deals, tickets, notes i camps sensibles.
- Orquestrador o automatització: webhooks, n8n, APIs, email, Slack, calendaris i eines internes.
OpenAI declara que, en productes empresarials i API, les dades d’organització no es fan servir per entrenar models per defecte i que existeixen mesures com xifratge, controls de retenció i auditories. Anthropic documenta pràctiques d’avaluació de riscos, red teaming, controls de ciberseguretat, permisos basats en rols, SSO, SCIM i logs d’auditoria per a clients enterprise. Aquestes garanties del proveïdor importen, però no substitueixen el disseny intern del flux.
A la capa CRM, HubSpot distingeix dades sensibles i exigeix scopes específics per a accés programàtic. A la capa d’automatització, n8n permet polítiques de seguretat d’instància com 2FA i controls sobre compartició o publicació de workflows i credencials. Si l’agent opera sobre aquests sistemes, cal revisar tant el proveïdor com l’arquitectura pròpia.
Què sí convé automatitzar amb controls
La privacitat i la seguretat no impliquen evitar agents IA. Impliquen triar bé què automatitzar i amb quin nivell d’autonomia.
Aquestes tasques acostumen a encaixar bé si es dissenyen amb límits:
- Recollir context inicial d’una sol·licitud comercial.
- Fer preguntes repetitives abans d’una trucada.
- Classificar intenció, urgència i tipus de necessitat.
- Resumir converses i emails.
- Preparar un briefing intern per a vendes.
- Crear tasques de seguiment reversibles.
- Etiquetar oportunitats segons regles revisables.
- Respondre preguntes freqüents amb base de coneixement aprovada.
- Derivar a una persona quan apareix un cas sensible.
- Registrar esdeveniments per mesurar qualitat i errors.
El patró correcte és que l’agent redueixi fricció i prepari decisions, no que substitueixi responsabilitat comercial, legal o de seguretat.
Què no automatitzar completament
Hi ha accions que haurien de quedar fora de l’autonomia total de l’agent:
- Decidir sobre dades sensibles sense base clara.
- Enviar comunicacions externes d’alt impacte sense revisió.
- Acceptar condicions comercials o contractuals.
- Modificar preus, descomptes o abast d’una proposta.
- Descartar oportunitats ambigües o estratègiques.
- Canviar propietaris, etapes crítiques o imports en CRM sense control.
- Desar memòria indefinida de converses comercials.
- Accedir a credencials, tokens o secrets.
- Fer servir fonts externes no validades per prendre decisions.
- Respondre auditories legals, privacitat o seguretat sense intervenció humana.
En aquests casos, l’agent pot ajudar: recopila informació, prepara resum, proposa passos següents i escala. Però no hauria d’actuar com a autoritat final.
Bones pràctiques per a un agent IA comercial segur
Un disseny raonable combina controls tècnics, comercials i organitzatius.
| Control | Com aplicar-lo en un agent comercial |
|---|---|
| Mapa de dades | Documentar entrades, sortides, sistemes connectats, memòria i logs. |
| Minimització | Enviar al model només la informació necessària per al cas d’ús. |
| Classificació de sensibilitat | Separar dades bàsiques, dades internes, dades confidencials i dades sensibles. |
| Permisos mínims | Fer servir scopes i rols específics per a CRM, email, n8n i APIs. |
| Eines acotades | Preferir accions granulars davant d’eines genèriques. |
| Fonts aprovades | Respondre des de coneixement versionat i revisat. |
| Filtre d’entrades | Detectar instruccions malicioses, arxius externs o contingut no fiable. |
| Validació de sortides | Evitar que l’agent retorni dades que no hauria de revelar. |
| Aprovació humana | Exigir revisió per a accions externes, irreversibles o d’alt impacte. |
| Traçabilitat | Registrar conversa, decisió, eina utilitzada, resultat i responsable. |
| Retenció limitada | Definir terminis per a converses, resums, memòria i logs. |
| Revisió periòdica | Auditar errors, escalats, permisos i casos de confiança baixa. |
L’arquitectura importa més que el prompt. Un prompt pot explicar límits, però els límits crítics han d’estar també en permisos, eines, fluxos, validacions i revisió humana.
Com ho plantejaria Nicolás Torres
Per a Nicolás Torres, un agent IA comercial segur no comença per “quin model fem servir”. Comença pel procés comercial i pel risc del flux.
L’enfocament seria:
- Auditar el procés: entrades, eines, responsables, dades, tasques repetitives i punts de fuga.
- Definir el cas d’ús mínim: qualificació, briefing, seguiment, handoff o integració concreta.
- Mapar dades i permisos: què necessita l’agent, què no ha de tocar i quins sistemes intervenen.
- Dissenyar regles i límits: quan preguntar, respondre, resumir, derivar o demanar aprovació.
- Construir amb eines acotades: funcions específiques, scopes mínims i accions reversibles.
- Validar amb casos reals: revisar converses, errors, falsos positius i escalats.
- Mesurar i ajustar: qualitat del briefing, temps, leads qualificats, errors, intervencions humanes i seguretat.
El resultat no hauria de ser un chatbot amb una política de privacitat enganxada al final. Hauria de ser un sistema d’automatització comercial amb dades, regles, permisos, límits i supervisió.
Dissenyem un agent IA comercial segur
Si la teva empresa o agència vol fer servir IA per captar, qualificar, resumir o derivar oportunitats, convé començar per un diagnòstic: quines dades entren, quines eines intervenen, quines accions es poden automatitzar i on ha de quedar control humà.
Sol·licitar diagnòstic d’automatització comercial
Preguntes freqüents
- Quines dades pot fer servir un agent IA comercial?
- Ha de fer servir només les dades necessàries per al cas d'ús: consultes, context comercial, informació de CRM i coneixement aprovat, evitant dades sensibles si no són imprescindibles.
- Un agent IA comercial pot accedir al CRM?
- Pot accedir al CRM si hi ha una necessitat clara, però ho hauria de fer amb permisos mínims, scopes específics, traçabilitat i controls d'aprovació per a accions sensibles.
- Com es redueix el risc de filtració d'informació?
- Es redueix amb minimització de dades, filtratge d'entrades, control de fonts, permisos mínims, validació de sortides, registres d'activitat i polítiques clares de retenció.
- Quan ha d'intervenir una persona?
- Ha d'intervenir quan hi ha dades sensibles, confiança baixa, impacte comercial alt, accions irreversibles, excepcions fora de regles o sol·licituds que puguin afectar drets, contractes o reputació.
- Què cal revisar abans d'implantar un agent IA comercial?
- Convé revisar el mapa de dades, les eines connectades, els permisos, les fonts de coneixement, els criteris d'escalat, la supervisió humana, la retenció i les mètriques de seguretat.