Un agent IA comercial pot millorar molt un procés: recollir context, fer preguntes inicials, ordenar consultes, resumir converses, prioritzar oportunitats i preparar la feina de l’equip. Però aquesta capacitat no vol dir que tot s’hagi d’automatitzar.
L’error apareix quan l’empresa confon “la IA pot fer-ho” amb “la IA ho hauria de decidir sola”. En processos comercials, algunes accions tenen impacte econòmic, legal, reputacional o relacional. Si s’automatitzen sense límits, poden generar soroll, pèrdua de control, decisions injustes, promeses incorrectes o problemes de dades.
La pregunta correcta no és només què pot fer un agent IA comercial. La pregunta important és què no hauria de fer sense una persona, què hauria de fer només com a recomanació i què pot executar de manera autònoma amb baix risc.
Aquest article connecta amb la guia d’automatització comercial amb IA, els errors comuns en automatitzar vendes amb IA, les regles de negoci en agents IA i el handoff humà entre IA i persona.
En resum
Un agent IA comercial no hauria d’automatitzar completament decisions estratègiques, negociacions, descomptes, compromisos legals, tancaments comercials, casos sensibles, accions irreversibles ni decisions amb dades insuficients. En aquests casos, la IA pot preparar context, resumir, suggerir i alertar, però la decisió ha de quedar en una persona.
El criteri pràctic és simple: com més gran sigui l’impacte, menor la reversibilitat, més sensibles siguin les dades o menor sigui la confiança, més necessari és el control humà.
La idea principal: automatitzar no és delegar responsabilitat
La IA pot millorar processos comercials, però una automatització mal dissenyada pot crear soroll, errors o pèrdua de control. Això és especialment delicat en agents IA perquè no només responen text: poden fer servir eines, accedir a dades, actualitzar sistemes, crear tasques, enviar missatges o activar fluxos.
L’AEPD, en les seves orientacions sobre IA agèntica, insisteix que aquests sistemes introdueixen reptes d’autonomia, memòria, accés a dades, supervisió humana, traçabilitat, minimització i reversibilitat. OWASP, des de seguretat, descriu el risc d’agència excessiva quan un sistema LLM té massa funcions, massa permisos o massa autonomia.
En una empresa, el problema no és fer servir IA. El problema és donar-li capacitat d’actuar sense definir límits.
Zones d’exclusió: què no automatitzar completament
Hi ha decisions que un agent IA comercial no hauria de prendre per si sol. Pot assistir, però no executar de manera autònoma.
| Zona | Què no hauria de fer l’agent | Què sí que pot fer |
|---|---|---|
| Negociació comercial | Acceptar condicions, concedir descomptes o modificar termes. | Resumir objeccions, preparar context i suggerir punts a revisar. |
| Tancament de venda | Confirmar una contractació, compromís o acord final. | Preparar checklist, recopilar dades i alertar el responsable. |
| Contractes i legal | Prometre garanties, interpretar clàusules o acceptar canvis legals. | Derivar a la persona correcta amb resum i documents rellevants. |
| Preus a mida | Donar preu tancat en casos variables o estratègics. | Explicar criteris públics i demanar dades per a estimació humana. |
| Seguretat i privacitat | Confirmar compliment no validat o respondre auditories sensibles. | Recollir preguntes, enllaçar documentació aprovada i escalar. |
| Descart d’oportunitats | Rebutjar leads ambigus, estratègics o d’alt valor. | Marcar com a confiança baixa i demanar revisió. |
| Accions irreversibles | Esborrar dades, tancar deals, cancel·lar contractes o enviar comunicacions crítiques. | Crear esborranys o sol·licituds d’aprovació. |
| Crisi reputacional | Respondre públicament a queixes, conflictes o incidents. | Notificar, agrupar informació i preparar resum per a direcció. |
L’objectiu no és frenar l’automatització. És evitar que l’automatització envaeixi decisions que necessiten criteri, responsabilitat i context humà.
Per què apareix el risc
Els errors no apareixen només perquè el model “s’equivoqui”. Apareixen pel disseny del sistema.
OWASP agrupa el risc d’agència excessiva en tres causes principals: funcionalitat excessiva, permisos excessius i autonomia excessiva. En un agent comercial, això pot veure’s així:
- Funcionalitat excessiva: l’agent té eines que no necessita, com esborrar registres, enviar emails finals o modificar preus.
- Permisos excessius: l’agent accedeix al CRM amb permisos d’administrador quan només necessita lectura o creació limitada de tasques.
- Autonomia excessiva: l’agent executa accions d’alt impacte sense confirmació humana.
- Dades insuficients: l’agent decideix amb informació incompleta o desactualitzada.
- Confiança artificial: l’equip accepta la sortida perquè “ho ha dit la IA”, encara que faltin evidències.
- Entrada no fiable: un email, web, arxiu o chat pot contenir instruccions malicioses o ambigües.
- Falta de traçabilitat: ningú pot reconstruir per què l’agent va prendre una decisió.
L’AEPD també adverteix sobre biaix d’automatització: encara que hi hagi supervisió humana, pot fallar si la persona no té informació, formació, recursos o capacitat real per intervenir.
Matriu de risc abans d’automatitzar
Abans de delegar una acció en un agent IA, convé puntuar el cas amb criteris senzills.
| Criteri | Baix risc | Risc mitjà | Alt risc |
|---|---|---|---|
| Impacte comercial | Resum, etiqueta o tasca interna. | Canvi de prioritat o derivació. | Preu, descompte, contracte, tancament o descart. |
| Reversibilitat | Fàcil de corregir. | Requereix revisió manual. | Difícil o costós de revertir. |
| Sensibilitat de dades | Dades comercials bàsiques. | Dades internes o context de client. | Dades personals sensibles, legals, financeres o de seguretat. |
| Confiança de la resposta | Basada en regles i font aprovada. | Basada en inferència o senyals parcials. | Basada en dades incompletes o context ambigu. |
| Exposició externa | Només visible internament. | Visible per a un lead o client. | Visible públicament o amb impacte contractual. |
| Necessitat de criteri | Operativa i repetitiva. | Requereix interpretació. | Estratègica, emocional, legal o reputacional. |
Una regla útil:
- Si el risc és baix i l’acció és reversible, es pot automatitzar.
- Si el risc és mitjà, l’agent pot preparar i demanar aprovació.
- Si el risc és alt, l’agent ha d’assistir, no decidir.
Què sí que convé automatitzar
Mantenir límits no significa renunciar al valor de la IA. Moltes parts del procés comercial sí que són bones candidates.
| Tasca | Nivell d’autonomia recomanat | Per què encaixa |
|---|---|---|
| Recollir context inicial | Alta, amb preguntes acotades. | Redueix feina repetitiva i millora reunions. |
| Classificar intenció | Mitjana-alta, amb regles revisables. | Ajuda a ordenar leads, dubtes i sol·licituds. |
| Resumir converses | Alta, amb revisió per mostreig. | Prepara l’equip sense prendre decisions finals. |
| Prioritzar leads | Mitjana, com a recomanació. | Orienta vendes, però no substitueix criteri. |
| Crear tasques internes | Mitjana-alta, si són reversibles. | Activa seguiment sense comprometre el client. |
| Respondre FAQs aprovades | Alta, si fa servir coneixement controlat. | Redueix fricció i manté consistència. |
| Preparar handoff humà | Alta. | Entrega context, dades que falten i pas següent. |
| Mesurar esdeveniments del flux | Alta. | Dona traçabilitat i aprenentatge continu. |
El patró correcte és que la IA faci la feina preparatòria i que una persona conservi el control en decisions sensibles.
Què no convé automatitzar completament
Aquestes decisions haurien de quedar fora de l’autonomia total de l’agent:
- Decisions estratègiques: canvis de posicionament, comptes clau, mercats prioritaris o segments a descartar.
- Negociacions complexes: descomptes, condicions especials, canvis d’abast o concessions comercials.
- Tancament comercial: acceptació final d’una proposta, signatura, contractació o compromís vinculant.
- Casos sensibles: clients enfadats, conflictes, informació personal delicada, seguretat o privacitat.
- Judicis complexos sense supervisió: decidir si una oportunitat no mereix atenció quan hi ha ambigüitat.
- Accions destructives: esborrar registres, tancar oportunitats, cancel·lar reunions importants o eliminar historials.
- Comunicacions d’alt impacte: emails legals, missatges públics, respostes a crisi o promeses contractuals.
- Ús de dades sense base clara: inferir perfils sensibles, enriquir dades sense legitimació o retenir informació innecessària.
La IA pot preparar una recomanació, però no hauria de ser l’autoritat final.
Flux de decisió: automatitzar, aprovar o escalar
El flux es pot resoldre amb una seqüència de control:
- L’acció està definida en regles de negoci?
- L’agent té dades suficients i font fiable?
- L’acció és reversible?
- L’impacte comercial és baix?
- Les dades no són sensibles?
- L’usuari o l’equip esperen aquesta automatització?
- Existeix registre d’activitat i traçabilitat?
- Hi ha ruta d’escalat si alguna cosa falla?
Si una resposta és “no”, l’acció hauria de passar a aprovació humana o escalat.
Bones pràctiques per dissenyar límits
Els límits no haurien de viure només en el prompt. Han d’estar en l’arquitectura.
| Control | Com aplicar-lo |
|---|---|
| Permisos mínims | Donar a l’agent només les eines i scopes necessaris per a la seva tasca. |
| Eines específiques | Evitar eines obertes si n’hi ha prou amb una acció granular. |
| Regles de negoci explícites | Definir què pot fer, quan ha de preguntar i quan ha de derivar. |
| Llindars de confiança | Si falta context o baixa la confiança, convertir l’acció en recomanació. |
| Aprovació humana | Exigir confirmació per a accions d’alt impacte. |
| Registre d’activitat | Desar què va fer l’agent, amb quines dades i quina decisió va proposar. |
| Reversibilitat | Dissenyar accions que puguin corregir-se o desfer-se. |
| Proves controlades | Començar amb públic limitat, casos reals i revisió abans d’escalar. |
| Revisió periòdica | Auditar converses, falsos positius, errors i casos escalats. |
| Rutes d’escalat | Definir responsables per a vendes, suport, legal, seguretat o direcció. |
Salesforce recomana començar petit, escoltar feedback i iterar abans d’escalar. També assenyala que regles massa rígides poden deixar l’agent sense utilitat. Aquest punt és important: un bon límit no ho bloqueja tot, sinó que guia la conversa cap a una acció segura.
Quan ha d’intervenir una persona
La intervenció humana no hauria de ser decorativa. Ha d’ocórrer en punts concrets i amb informació suficient.
Una persona ha d’intervenir quan:
- L’agent detecta una oportunitat estratègica.
- El lead demana una excepció comercial.
- El cas inclou dades sensibles o dubtes de privacitat.
- Hi ha conflicte, queixa, crisi o risc reputacional.
- La resposta exigeix criteri legal o contractual.
- L’agent no troba font fiable.
- Hi ha contradicció entre fonts o regles.
- L’acció no és reversible.
- El score de confiança baixa.
- L’usuari sol·licita parlar amb una persona.
La revisió humana funciona quan la persona rep un resum útil: què ha passat, què s’ha preguntat, què sap l’agent, què falta, quins riscos hi ha i què recomana.
Com ho plantejaria Nicolás Torres
No dissenyaria un agent IA comercial preguntant primer “què volem automatitzar”. Començaria preguntant què no pot fallar.
El disseny hauria d’ordenar:
- Quines tasques són repetitives i segures.
- Quines decisions només poden ser recomanacions.
- Quines accions requereixen aprovació.
- Quines zones queden excloses.
- Quines dades pot veure l’agent.
- Quines eines pot fer servir.
- Quins permisos té cada eina.
- Quins registres queden per a auditoria.
- Quina persona intervé en cada tipus d’excepció.
Després sí que construiria l’agent: preguntes inicials, regles, coneixement, classificació, CRM, tasques, resums i handoff. Però sempre amb límits tècnics i comercials, no només amb instruccions escrites en un prompt.
El valor d’un agent IA comercial no està en actuar sense control. Està en treure fricció on l’automatització és útil i deixar a les persones les decisions on el seu criteri importa.
Auditar abans d’automatitzar
Si la teva empresa vol fer servir agents IA comercials, convé revisar abans quines tasques es poden automatitzar, quines decisions necessiten aprovació i quines zones han de quedar fora de l’autonomia de l’agent.
Podem auditar el teu procés de captació, qualificació, seguiment i CRM per definir límits, regles, handoff humà i una primera automatització segura.
Auditar el meu procés abans d’automatitzar
Preguntes freqüents
- Què no hauria d'automatitzar un agent IA comercial?
- No hauria d'automatitzar completament decisions estratègiques, negociacions, descomptes, compromisos legals, tancaments comercials, casos sensibles, accions irreversibles ni decisions amb dades insuficients.
- Quan ha d'intervenir una persona?
- Ha d'intervenir quan hi ha alt impacte comercial, dades sensibles, confiança baixa, ambigüitat, risc reputacional, decisió irreversible o una excepció fora de regles definides.
- Un agent IA pot descartar leads automàticament?
- Només hauria de descartar casos de baix risc amb regles clares. Els leads estratègics, ambigus o d'alt valor haurien de quedar com a recomanació pendent de revisió humana.
- Què sí que es pot automatitzar amb seguretat?
- Es pot automatitzar la recollida de context, classificació inicial, resum, priorització suggerida, creació de tasques, respostes informatives i preparació de handoff.
- Com es dissenyen límits segurs?
- Es dissenyen definint permisos mínims, regles de negoci, llindars de confiança, registre d'activitat, revisió humana, proves, reversibilitat i rutes d'escalat.