El problema más peligroso con la IA en una empresa no siempre aparece en una reunión de dirección. A veces aparece en silencio: alguien prueba un asistente, otro conecta una base de documentos, un tercero deja corriendo un flujo que consulta datos internos. Todo parece productividad hasta que nadie puede responder una pregunta básica: qué está usando IA, con qué datos, bajo qué permisos y quién se hace cargo si algo falla.
Google Cloud publicó k8s-aibom, un controlador para GKE que detecta runtimes de IA y genera Machine Learning Bills of Materials. La novedad habla de Kubernetes, vLLM, Triton, LangChain, bases vectoriales y manifiestos CycloneDX. Pero la discusión que importa para negocios reales es más simple: inventariar la IA antes de confiarle procesos.
El ruido: sumar herramientas porque “mejoran la productividad”
El ruido está en creer que cada nuevo asistente se evalúa solo por lo que promete hacer. Responder más rápido, resumir documentos, clasificar consultas o preparar reportes puede sonar razonable. El riesgo aparece cuando esas capacidades quedan dispersas, sin fuente de verdad, sin registro y sin un responsable que revise límites.
En una empresa chica o mediana, el “shadow AI” no necesariamente vive en un cluster sofisticado. Puede vivir en un WhatsApp atendido con respuestas copiadas de un modelo, en una planilla conectada a datos de clientes, en un bot que arma presupuestos o en una carpeta compartida que alguien subió completa a una herramienta externa. El síntoma es el mismo: datos internos circulando sin mapa.
La decisión: armar inventario antes de escalar
Antes de conectar IA a atención, ventas, soporte o documentos internos, conviene responder cuatro preguntas operativas:
- Qué toca: mensajes, archivos, precios, historial de clientes, turnos, reclamos o datos sensibles.
- Quién lo autorizó: responsable del proceso, permisos por tarea y alcance de uso.
- Qué queda registrado: consulta recibida, dato usado, respuesta generada, derivación y corrección humana.
- Cuándo se detiene: casos ambiguos, promesas comerciales, excepciones de precio, reclamos delicados o información incompleta.
La IA puede ayudar mucho cuando clasifica consultas, ordena datos, sugiere respuestas, detecta urgencias o dispara seguimientos. Pero si no hay inventario ni trazabilidad, también puede acelerar errores: respuestas inconsistentes, datos expuestos, costos invisibles y procesos que nadie puede auditar.
Qué debería hacer un negocio ahora
La recomendación de Nolapenses es empezar con un relevamiento corto y concreto, no con una compra impulsiva de herramientas. Listar dónde ya se usa IA, qué información entra, qué salida produce, quién la revisa y qué decisión toma después una persona. Recién ahí tiene sentido automatizar lo repetitivo o construir una IA privada sobre documentos internos.
El criterio es simple: si una IA va a tocar datos del negocio, también necesita dueño, permisos, evidencia y salida humana. Lo demás es productividad aparente con deuda operativa acumulándose por abajo.
¿Querés aplicar algo parecido en tu empresa?
En Nolapenses podemos ayudarte a bajar esta idea a un flujo real de trabajo, con automatización, integración y derivación humana cuando hace falta.