IA: Cuando tu herramienta se convierte en tu atacante

Vamos a jugar al imaginario empresarial solo que, aunque este escenario pareciera sacado de una película dirigida por David Lynch (“Dune”) o James Cameron (“Terminator”), es algo que quizá esté sucediendo en tu empresa y que, muy probablemente, ni cuenta te has dado. ¿Listo? Pues la historia comienza así.

Piensa que tu equipo está implementando de una forma rústica procesos que tienen que ver con el uso de inteligencia artificial. En tu planta u oficina, todos están muy entusiasmados por saber que ahora tienen la IA de moda y que, obviamente, todos podrán hacer uso de ella para eficientar su trabajo. Es decir, le entraron a la digitalización y tecnologización completa de la empresa que tanto aman.

Sin embargo, meses después de abrir la Caja de Pandora con la IA, comienzan a experimentar un ciberataque. No saben qué o quién está orquestándolo, solo que están perdiendo información a un ritmo acelerado y preocupante, y que la inteligencia artificial pareciera que está jugando un doble papel: aceleradora de procesos y potencial atacante. Tu equipo no sabe cómo reaccionar, no tiene los protocolos para hacerlo y mucho menos entiende cómo detenerlo.

¿Esto podría suceder? Si, y es altamente probable. En México, el 21% de los ciberataques dirigidos ya utiliza IA para imitar a personas, manipular sistemas y fabricar engaños casi imposibles de detectar. A nivel global, dos de cada tres ejecutivos reportan que su organización fue blanco de un ataque habilitado por inteligencia artificial en el último año. Por ello, la pregunta no es si la IA participará en el próximo intento de intrusión contra tu negocio; más bien, de qué lado de la trinchera vas a querer tener esa IA (de los buenos o los malos).

El escudo funciona, pero LATAM aún está lejos

Pero no todos son eventos cataclísmicos o sacados de un guion de película, también hay buenas noticias y con cifras auditables. El reporte Cost of a Data Breach de IBM documenta que las organizaciones que usan IA de forma extensiva en sus operaciones de seguridad ahorran en promedio 1.9 millones de dólares por incidente y acortan el ciclo de detección y contención en 80 días, llevando el tiempo promedio a su nivel más bajo en nueve años.

Sin embargo, para América Latina, las cosas no son precisamente más fáciles. Se calcula que el costo promedio de un ciberataque en la región supera los 1.5 millones de dólares por incidente. Para una empresa mediana, la diferencia entre detectar una intrusión en horas o en meses es, literalmente, la diferencia entre un mal trimestre y el cierre definitivo.

Este contraste regional hace todo más urgente, pues las pérdidas son altas. Según el Foro Económico Mundial, mientras en Estados Unidos y Europa la confianza en la capacidad de respuesta ante ataques promedia el 84%, en LATAM apenas alcanza el 13%. Y lo peor del caso, es que muchas empresas (o directores de ellas) aún no están conscientes de que esa enorme brecha no se cierra comprando licencias e implementando medidas de IA fragmentadas; sino con algo que se llama estrategia.

El error más caro: comprar IA sin gobernarla

Y aquí viene la advertencia que pocos proveedores te van a dar. Primero, vamos a los datos para entender de fondo ese aviso. El 13% de las empresas ya reportó un incidente de seguridad relacionado con sus propios sistemas de IA, y el 97% de las afectadas admitió no tener controles de acceso adecuados sobre esas herramientas. Es decir, el enemigo comenzó nutriéndose y aprendiendo en casa.

En este contexto, Gartner proyecta que el 40% de las aplicaciones empresariales incorporarán agentes de IA a finales de 2026; pero anticipa que el 40% de los proyectos agénticos serán abandonados hacia 2027 por falta de gobernanza. El patrón se repite: la tecnología sin gobernanza no es un escudo, es una superficie de ataque nueva pagada con tu propio presupuesto. En pocas palabras, dejaste entrar al malo, sin antes verificar sus antecedentes.

Por ello hay que ser claros, convertir la inteligencia artificial en defensa real exige entender cómo funciona el modelo que ya está demostrando resultados: el SOC Agéntico. En este esquema, una capa determinística bloquea automáticamente las amenazas conocidas a velocidad de máquina, mientras agentes de IA investigan y correlacionan señales de identidad, endpoint, correo electrónico y nube, entregando al analista humano la evidencia ya ensamblada. Lo que antes tomaba horas, ahora ocurre en minutos. Pero nótese el detalle clave: el humano no desaparece del circuito; se mueve a donde aporta más valor, que es el juicio, el contexto y la decisión.

Cinco pasos para construir tu escudo de IA

Pero esto no se hace de la noche a la mañana. Hay un proceso que tu organización debería seguir. ¿Cuál es? Aquí te lo presento:

1. Empieza por el dolor, no por la moda: Los casos de uso con retorno probado son el triage de alertas, la detección de phishing y deepfakes, y la correlación de incidentes. Elige uno, mide el tiempo de detección y respuesta antes y después, y escala solo con evidencia. La IA defensiva se justifica con métricas, no con demos.
2.  Gobierna antes de desplegar: Define desde el día uno qué decisiones puede tomar la IA de forma autónoma y cuáles requieren aprobación humana. Un agente que puede aislar un equipo comprometido es valioso; un agente que puede hacerlo sin supervisión, sin bitácora y sin límites definidos es un riesgo que tú mismo instalaste.
3. Protege la IA que te protege: Tus modelos defensivos también son un objetivo. El envenenamiento de datos y la manipulación de prompts pueden comprometer su funcionamiento y hacer que un sistema diseñado para detectar fraude termine facilitándolo. Incluye tus propios sistemas de IA en el alcance de tus pruebas de penetración.
4. Blinda la identidad humana y no humana: El 83.3% de las organizaciones mexicanas sufrió al menos un incidente relacionado con identidades en el último año, el segundo peor registro a nivel global. Y con la IA agéntica, las identidades de máquina ya superan a las humanas en muchos entornos. Sin un gobierno de identidades robusto, cualquier inversión en IA defensiva se construye sobre arena.
5. Capacita al humano que supervisa a la máquina: El escudo de IA solo es tan bueno como el criterio de quien lo opera; por ello, es imprescindible invertir para que tu equipo sepa validar, cuestionar y auditar las decisiones del sistema. La supervisión humana no es un freno a la automatización; es su condición de posibilidad.

Te guste o no, lo cierto es que la IA va a estar en tu próxima crisis de ciberseguridad; eso ya está escrito. Lo único que sigue en tus manos es decidir si estará atacándote o defendiéndote. Y esa decisión, como todas las importantes, no se toma en el área de sistemas, sino desde la dirección general de tu empresa. Tú decides.

  Juan Carlos Carrillo es CEO de ONESEC, consultor en ciberseguridad y privacidad. Síguelo en su LinkedIn.