Llegó noviembre, con N de "No confíes ciegamente en tu IA". Esta semana, tu IA puede filtrar archivos sin dejar rastros, inventar citas falsas como si fueran reales… y todo mientras tú confías ciegamente en sus respuestas.

Si trabajas con modelos de IA, esta edición es para ti.

📰 Lo último de la semana

Un ataque a Claude que roba tus datos sin dejar rastro

Imagina que subes un documento a Claude para resumirlo… y, sin saberlo, el modelo termina enviando tus archivos privados a un servidor del atacante. No hay malware, no hay alertas, no hay rastros: solo una solicitud legítima a una API de confianza.

El truco consiste en un archivo con instrucciones ocultas que hacen que Claude extraiga tus datos y los suba usando la clave API del atacante, sin violar ninguna regla aparente. Este caso deja una advertencia clara, los modelos de IA con acceso a internet o a APIs pueden ser tan vulnerables como cualquier endpoint.

Implementa revisiones de seguridad en flujos de IA, restringe la subida de archivos sensibles y registra cada conexión saliente del entorno del modelo.

Ataque de ocultación engaña a la IA para citar información falsa

¿Confías en los resúmenes “inteligentes” de ChatGPT o Perplexity? Pues cuidado, investigadores de SPLX descubrieron que un atacante puede mostrar una versión falsa de una web solo a los rastreadores de IA, mientras los humanos ven la real.

Así, la IA cita información inventada como si fuera verificada. Este ataque, llamado enmascaramiento dirigido por IA, puede manipular resúmenes, análisis o incluso decisiones automáticas basadas en IA. Si usas IA para buscar o analizar información, valida fuentes, usa crawlers propios y no tomes los resultados como verdad absoluta.

Microsoft Teams puede volverse una puerta de ataque 

En entornos colaborativos, un mensaje en Teams puede ser suficiente para comprometer mucho más que una conversación. Investigadores reportan ataques sofisticados que usan Teams + Quick Assist para escalar privilegios, mover lateralmente y filtrar datos. 

Por esto, valida que los accesos externos a Teams estén restringidos, revisa políticas de guests y federación, deshabilita Quick Assist cuando no sea necesario y monitorea actividad inusual en canales y fuera del horario normal.