El informante invisible: cómo la IA generativa está creando una nueva clase de ciberamenazas

Cuando las herramientas diseñadas para aumentar la productividad abren silenciosamente nuevas puertas a la explotación

🔍 Introducción: Una nueva amenaza que se esconde a plena vista

Las amenazas ya no siempre provienen del exterior. Mientras que las amenazas internas tradicionales implican que empleados descontentos roben datos confidenciales o abusen de sus privilegios, ha surgido una nueva clase de atacantes internos, impulsados no por malicia, sino por el mal uso de herramientas de IA generativa.

Desde ChatGPT hasta GitHub Copilot, pasando por creadores de diapositivas basados en IA y plataformas de marketing, los empleados ahora utilizan IA generativa para agilizar tareas, programar más rápido e incluso redactar informes. Sin embargo, en el proceso, podrían estar subiendo información confidencial sin saberlo, infringiendo las leyes de privacidad de datos o introduciendo resultados sesgados e inverificables en las decisiones empresariales.

Esto no es solo un riesgo informático, sino un punto ciego de gobernanza. Bienvenidos a la era del infiltrado invisible.

🧠 ¿Qué hace que esta amenaza sea diferente?

Las amenazas internas tradicionales se basan en la intención: alguien decide filtrar datos o sabotear un sistema. Pero la IA generativa introduce vectores de amenaza no intencionados:

• Un empleado pega código confidencial en ChatGPT para depurarlo.

• Un comercializador carga datos sin procesar de clientes en una herramienta de escritura con inteligencia artificial para personalizar los mensajes.

• Un equipo legal le pide a un LLM que “resuma este contrato” y conserva cláusulas sensibles.

Estas acciones pueden parecer inofensivas, incluso útiles. Pero pueden tener como resultado:

• Exfiltración de datos a registros de modelos públicos

• Incumplimiento normativo (RGPD, HIPAA, CPRA)

• Fuga de propiedad intelectual

• Amplificación de sesgos y alucinaciones de fuentes no verificables

Ejemplos reales de cómo la IA generativa se convierte en el informante invisible

🔍 1. Ingenieros de Samsung filtran datos confidenciales a través de ChatGPT (2023)

A principios de 2023, los ingenieros de Samsung Semiconductor usaron ChatGPT para depurar y resumir código interno. Sin darse cuenta, enviaron código fuente confidencial y transcripciones de reuniones que contenían diseños de chips patentados. El modelo absorbió estos datos durante sus sesiones, lo que generó una posible fuga de datos .

📎 Fuente: The Economist Tech Quarterly, 2023

🔍 2. ChatGPT se utilizó para planificar el atentado de Las Vegas (enero de 2025)

Un exboina verde del ejército estadounidense fue arrestado tras usar ChatGPT para recopilar información sobre la fabricación de explosivos y armas de fuego. Presuntamente planeó un atentado frente a un hotel de Las Vegas el día de Año Nuevo de 2025. Este caso marca uno de los primeros usos publicitados de la IA generativa para apoyar un intento de terrorismo interno en EE. UU.

📎 Fuente: The Times UK, enero de 2025

🔍 3. Una filtración de datos de DeepSeek revela el historial de solicitudes y las claves API (2025)

En enero de 2025, la plataforma china de IA DeepSeek sufrió una filtración de datos debido a una instancia de nube mal configurada. La filtración expuso las indicaciones de usuario, los registros y las credenciales de la API , lo que generó inquietud sobre cómo las plataformas de IA generativa almacenan y gestionan datos de consultas confidenciales.

📎 Fuente: Wikipedia – DeepSeek

🔍 4. Los hackers utilizan la inteligencia artificial Gemini de Google para investigación e ingeniería social (2025)

En una investigación de 2025, WIRED informó que grupos de amenazas de China, Irán, Corea del Norte y Rusia utilizaban modelos de IA generativa de acceso público, como Google Gemini, para respaldar sus campañas cibernéticas. Según informes, estos grupos utilizaban IA para generar contenido de phishing, escribir código malicioso y realizar tareas de reconocimiento .

📎 Fuente: WIRED, abril de 2025

🔍 5. Inyección rápida descubierta en modelos de IA con memoria a largo plazo (2024-2025)

Investigadores de seguridad descubrieron vulnerabilidades críticas en grandes modelos de lenguaje, incluyendo Gemini de Google, que demuestran que la inyección de comandos puede secuestrar la memoria del modelo y manipular los resultados futuros. Esto significa que incluso usuarios bienintencionados podrían influir o comprometer, sin saberlo, el comportamiento del modelo compartido.

📎 Fuente:Wikipedia – Inyección rápida

🔍 6. El phishing impulsado por IA se convertirá en la principal vía de entrada en 2025

Según un informe de 2025 de la Unidad 42 de Palo Alto Networks, los correos electrónicos de phishing generados por IA son ahora el método más común de acceso inicial en ciberataques . Mediante modelos generativos, los atacantes crean correos electrónicos altamente personalizados que imitan el lenguaje y el formato de los empleados.

📎 Fuente: Palo Alto Networks – Informe de IR de la Unidad 42, 2025

🛑 Los riesgos emergentes del uso de la IA generativa

1. IA de sombra

Los empleados utilizan herramientas de IA no autorizadas, ajenas al control corporativo, a veces sin saberlo. Estas herramientas ocultas no se registran ni se gestionan.

2. Fuga rápida

Los datos ingresados en las herramientas de IA pueden persistir en la memoria, especialmente en implementaciones no privadas. Esto crea un riesgo de exposición de datos a largo plazo .

3. Sesgo y alucinaciones

Los modelos generativos reflejan sesgos en los datos de entrenamiento e inventan hechos falsos (alucinaciones). Cuando se utilizan para investigación, apoyo a la toma de decisiones o contenido orientado al cliente, el daño es reputacional y operativo.

4. Deriva de la propiedad intelectual

Cuando la I+D interna, las estrategias de productos o el lenguaje legal se pasan a IA externas, las empresas corren el riesgo de perder el control de la propiedad y la ventaja de la innovación .

🔐 Cómo pueden responder las organizaciones

✅ 1. Desarrollar una política interna de uso de IA

Defina qué herramientas de IA se pueden usar, con qué propósito y qué datos están prohibidos. Comparta esta política con todos los departamentos, no solo con el departamento de TI.

✅ 2. Implementar DLP (prevención de pérdida de datos) con IA

Implemente soluciones que monitoreen la entrada de datos confidenciales en las interfaces de IA. Algunas herramientas de endpoints más recientes pueden detectar y bloquear el envío no autorizado de datos a URLs de IA conocidas.

✅ 3. Ofrecer alternativas de IA internas y seguras

Cree herramientas LLM aprobadas y protegidas mediante plataformas empresariales seguras (p. ej., Microsoft Copilot, Google Cloud Vertex AI, GPT privadas). Aproveche las ventajas de productividad sin comprometer la privacidad .

✅ 4. Educar sobre los riesgos más allá de la productividad

Realice una capacitación sobre concientización sobre seguridad de IA que cubra:

• Qué hacen realmente las herramientas de IA generativa con los datos enviados

• El riesgo de contenido generado por IA que sea inexacto o legalmente riesgoso

• Las limitaciones de confiar en los LLM para obtener la verdad o la experiencia

  
  

📊 Estadísticas de apoyo

• El 52% de los empleados han utilizado herramientas de IA generativa para el trabajo sin notificar al departamento de TI.

  → Fuente: Informe de confianza en IA de Cisco 2024

  
  

• El 33% de las empresas descubrieron que se habían enviado datos confidenciales a herramientas de IA públicas durante el último año.

  → Fuente: Encuesta de riesgos cibernéticos de Gartner, 2024

  
  

• El 80% de los ejecutivos de nivel C creen que su organización carece de visibilidad sobre el uso de IA por parte de los empleados.

  → Fuente: Tendencias tecnológicas de Deloitte, 2025

🧭 Conclusión: No puedes controlar lo que no puedes ver

Las herramientas de IA generativa llegaron para quedarse y están redefiniendo la imagen de un "insider". Hoy en día, cualquier empleado con un navegador y buenas intenciones puede representar un riesgo para la seguridad, el cumplimiento normativo y la reputación si no se implementan las medidas de seguridad adecuadas.

La respuesta no es el miedo ni la sobrerregulación, sino la transparencia, las políticas y la educación . Las organizaciones deben encontrar un equilibrio entre innovación y supervisión, productividad y privacidad, y curiosidad y control.

Porque la próxima gran filtración de datos podría no provenir de un hacker, sino de tu pasante… que usa ChatGPT para terminar su presentación de incorporación.

 

✅ Lista de verificación de políticas de uso aceptable de IA generativa

🔐 Uso general

• Sólo se podrán utilizar plataformas de IA aprobadas para tareas relacionadas con el trabajo.

• La IA nunca debe utilizarse para procesar o almacenar datos confidenciales, personales o de propiedad exclusiva a menos que esté explícitamente autorizado.

• Los empleados no deben utilizar contenido generado por IA en materiales públicos sin revisión y citación.

  
  

📄 Manejo de datos

• No se pueden ingresar datos de clientes, documentos de estrategia interna ni código fuente en herramientas de IA públicas.

• El contenido solicitado ingresado en las herramientas de IA se trata como datos de la empresa y está sujeto a la política DLP.

  
  

📢 Salida y precisión

• Los resultados de IA utilizados para la toma de decisiones (por ejemplo, legales, financieras, de contratación) deben ser revisados por un humano calificado.

• Los empleados deben etiquetar el contenido generado por IA si se utiliza en entregas o comunicaciones.

  
  

🛠️ Seguridad y cumplimiento

• Registre todo el uso de herramientas de IA a través de los sistemas de la empresa o VPN.

• Auditar periódicamente el uso de herramientas de IA en todos los departamentos (detección de IA oculta).

  
  

🧠 Formación y Concientización

• Todos los empleados deben completar anualmente la capacitación sobre riesgos de IA y protección de datos.

• Los equipos deben designar un “enlace de riesgo de IA” para mantenerse actualizado sobre las políticas y respaldar su adopción.