La Inteligencia Artificial (IA) conversacional se está convirtiendo en una parte cada vez más importante de los servicios financieros, así como de otros muchos sectores. A medida que las organizaciones desarrollan herramientas para empleados o clientes, un mismo desafío de diseño se presenta de forma recurrente: decidir cuándo y cómo un sistema de IA debe rechazar una solicitud. Los equipos de Santander están trabajando en distintas soluciones para afrontar este reto y encontrar el equilibrio adecuado.
Las interacciones humanas deben tenerse en cuenta ya desde la fase de diseño de cualquier sistema de IA, especialmente cuando hablamos de plataformas conversacionales. Estos sistemas deben encontrar el equilibrio adecuado entre aceptar y rechazar las peticiones de los usuarios. Este reto de ingeniería exige caminar sobre una línea muy fina. Si la IA rechaza demasiadas solicitudes, la experiencia puede resultar frustrante y dificultar su uso. En cambio, si rechaza demasiado pocas, corre el riesgo de ofrecer información poco fiable o incluso provocar consecuencias perjudiciales.
Banco Santander trabaja para resolver este dilema mediante el desarrollo de distintas medidas que permiten que el sistema mantenga ese equilibrio. Luis Ibáñez, líder del equipo de IA Responsable en Santander, explica que “durante las numerosas pruebas realizadas con nuestras soluciones de IA conversacional, comprobamos que, para evitar rechazos innecesarios, es fundamental entender cómo interactúan de forma natural los clientes con el sistema en casos de uso concretos. Analizando el lenguaje que utilizan, el contexto que aportan y las expectativas con las que llegan, podemos calibrar mejor el sistema, reduciendo los rechazos excesivos sin renunciar a las salvaguardas necesarias para garantizar una IA fiable”.
Punto de equilibrio
Los sistemas que rechazan con demasiada frecuencia solicitudes razonables erosionan la confianza de los usuarios y reducen el valor del servicio. En el extremo opuesto, existen numerosos ejemplos públicos de sistemas excesivamente permisivos que han generado información incorrecta, asumido compromisos para los que no estaban autorizados o producido respuestas capaces de perjudicar la reputación de una organización.
En todos los casos, la responsabilidad última sigue recayendo en la organización que despliega la tecnología. En el caso de las entidades financieras, donde las conversaciones pueden influir en decisiones relacionadas con el dinero, la elegibilidad para determinados productos o el asesoramiento, las implicaciones son aún mayores.
Comprender por qué es importante que una IA sepa rechazar determinadas solicitudes exige mirar más allá de la tecnología. La conversación humana se basa en expectativas sociales compartidas. La investigación en lingüística y sociología ayuda a explicarlo. Una conversación cooperativa depende no solo de la precisión, sino también de la relevancia, la claridad y la capacidad de ofrecer explicaciones suficientes. Los rechazos son momentos especialmente delicados que las personas suelen gestionar explicando los motivos de su decisión, proponiendo alternativas y preservando la dignidad del interlocutor. La IA conversacional debería seguir esos mismos principios. Un rechazo puede ser firme y, al mismo tiempo, claro, proporcionado y realmente útil.
Existe además otro desafío menos visible, pero igualmente importante. A medida que los sistemas conversacionales se vuelven más fluidos y naturales, los usuarios tienden cada vez más a responder a ellos como si fueran actores sociales y no simples programas informáticos. Las investigaciones muestran que algunas personas, especialmente aquellas que se encuentran en situaciones de aislamiento o vulnerabilidad, pueden llegar a desarrollar fuertes vínculos emocionales con los asistentes de IA. La tecnología no necesita comprender realmente a las personas para que esas relaciones produzcan efectos reales.
Esto añade una responsabilidad adicional a las organizaciones que desarrollan e implantan IA conversacional. Los sistemas deben ser cercanos y fáciles de utilizar, pero sin inducir a los usuarios a confundirlos con personas. La transparencia resulta, por tanto, esencial, no solo para cumplir con las exigencias regulatorias, sino también para preservar la confianza.
El marco regulatorio avanza en esa misma dirección. La Ley de Inteligencia Artificial de la Unión Europea (AI Act) exige que los usuarios sean informados cuando interactúan con sistemas de IA en numerosos contextos, y las obligaciones de transparencia para los sistemas conversacionales comenzarán a aplicarse a partir de agosto de 2026. En paralelo, otras jurisdicciones están adoptando enfoques similares, consolidando unas expectativas comunes en torno a la rendición de cuentas, la transparencia y la protección de las personas más vulnerables.
Diseñar una IA conversacional fiable implica, por tanto, mucho más que decidir qué puede o no puede hacer un sistema. Requiere diseñar rechazos que sean claros, proporcionados y útiles, al tiempo que el sistema mantiene la transparencia sobre sus capacidades y limitaciones. La confianza no se construye evitando las conversaciones difíciles, sino gestionándolas con honestidad, coherencia y respeto.
