Hay algo raro en la conversación actual sobre inteligencia artificial: al mismo tiempo se la presenta como una herramienta capaz de hacer casi cualquier cosa y como un riesgo autónomo difícil de controlar.
Las dos imágenes exageran. La IA ya es muy útil para tareas concretas y, cuando se conecta con herramientas, puede participar en procesos reales de trabajo. Pero una demo impresionante no convierte automáticamente a un sistema en algo confiable para producción.
Para un negocio, la pregunta útil no es si la IA “es buena” o “es peligrosa”. Es otra: ¿qué parte del trabajo puede resolver bien, qué margen de error tiene y qué pasa cuando se equivoca?
Lo que ya funciona bastante bien
Hoy los modelos generativos pueden aportar valor real en tareas como resumir información, clasificar mensajes, extraer datos de texto, generar borradores, comparar documentos, buscar dentro de grandes volúmenes de contenido o asistir en análisis donde una persona conserva la decisión final.
También pueden usar herramientas externas. Un agente puede consultar archivos, leer un calendario, buscar información en un CRM o preparar una acción en otro sistema, siempre que exista una integración y permisos para hacerlo.
Eso cambia mucho el tipo de problemas que se pueden automatizar. Ya no hace falta que toda la información llegue en campos perfectamente estructurados ni que cada variante posible esté escrita como una regla.
Pero esa flexibilidad tiene una contracara: el resultado deja de ser completamente determinístico. A diferencia de una regla determinística, un modelo generativo puede producir resultados diferentes ante entradas muy parecidas, especialmente cuando cambia el contexto disponible. El sistema puede interpretar mal un contexto, omitir un dato o elegir una acción que técnicamente era posible pero no era la conveniente.
Capacidad no es lo mismo que autonomía
Que un modelo pueda redactar un email no significa que deba enviarlo sin revisión. Que pueda modificar un CRM no significa que deba tener permisos para editar cualquier registro. Que pueda buscar archivos no implica que necesite acceso a todo el Drive de una empresa.
La diferencia entre una implementación útil y una peligrosa muchas veces aparece en esas decisiones de arquitectura: qué puede leer, qué puede modificar, qué necesita aprobación y qué queda registrado para poder auditarlo después.
Cuanto más amplia es la instrucción y mayores son los permisos, mayor es también la superficie de error. Por eso, en producción suele aplicarse un principio bastante poco espectacular: dar solamente el acceso necesario para la tarea concreta.
Los riesgos de seguridad no son ciencia ficción
Uno de los riesgos más conocidos es la prompt injection. En términos simples, un agente puede encontrarse con contenido externo —por ejemplo una página, un documento o un mensaje— diseñado para alterar su comportamiento o inducirlo a ejecutar una instrucción que no formaba parte de la intención original.
OWASP mantiene la prompt injection entre los principales riesgos de aplicaciones con modelos de lenguaje y también identifica la “agencia excesiva”: sistemas a los que se les otorgaron más permisos, funciones o autonomía de la que realmente necesitaban.
El riesgo aumenta cuando el modelo no sólo responde texto sino que además puede ejecutar acciones. Ahí un error deja de ser una respuesta incorrecta y puede convertirse en un email enviado, un archivo modificado o un dato actualizado donde no correspondía.
Esto no significa que los agentes sean intrínsecamente inseguros. Significa que necesitan los mismos principios que cualquier sistema que toca datos y procesos reales: autenticación, autorización, límites, validaciones, registros y mecanismos de confirmación.
También existe mucho riesgo imaginado
En el otro extremo aparecen explicaciones que atribuyen intención, voluntad o una autonomía casi humana a cualquier comportamiento inesperado de un modelo.
Eso suele oscurecer el problema en lugar de aclararlo. Para diseñar un sistema confiable no hace falta decidir si una IA “quiso” hacer algo. Hace falta entender qué contexto recibió, qué permisos tenía, qué herramientas podía usar, qué validaciones faltaron y qué resultado produjo.
En producción, esa distinción importa mucho. Un comportamiento inesperado no se resuelve con una discusión filosófica: se resuelve reduciendo grados de libertad, mejorando el contexto, agregando controles o directamente sacando IA de una parte del proceso donde una regla tradicional era suficiente.
Una demo no es un sistema
Muchas demostraciones de IA están diseñadas para mostrar la capacidad máxima del modelo en pocos minutos. Está bien: una demo sirve para entender qué podría ser posible.
Un sistema productivo tiene otras preguntas. ¿Qué pasa si falta un dato? ¿Qué hace con una excepción? ¿Cómo sabe una persona qué modificó? ¿Cuánto cuesta cuando el volumen crece? ¿Qué pasa si el proveedor no responde? ¿Se puede revertir una acción? ¿Quién aprueba algo sensible?
Esas preguntas son menos vistosas, pero son las que separan una experiencia sorprendente de una herramienta que realmente se puede incorporar al negocio.
No todo necesita IA
Hay tareas donde una regla, una integración tradicional o un formulario bien diseñado son mejores que un modelo generativo. Son más predecibles, más fáciles de probar y, muchas veces, más baratos.
La IA empieza a tener sentido cuando aporta algo que una regla simple no resuelve bien: interpretar lenguaje, trabajar con información no estructurada, clasificar casos ambiguos, generar alternativas o asistir a una persona con contexto.
Elegir no usar IA también puede ser una buena decisión técnica.
La pregunta útil es cuánto criterio le delegás
Probablemente el debate más interesante no sea si la inteligencia artificial va a reemplazar procesos completos, sino qué parte del criterio conviene delegar y bajo qué condiciones.
Hay tareas donde puede actuar sola con un margen de error aceptable. Otras necesitan aprobación. Y algunas no deberían pasar por un modelo en absoluto.
La implementación madura no busca maximizar autonomía. Busca usar la menor cantidad de autonomía necesaria para obtener una mejora concreta.
Porque poner IA en un proceso hoy es relativamente fácil. Diseñar qué puede hacer, qué no, con qué datos y quién responde cuando algo sale mal es la parte que realmente requiere criterio.