¿Cuál es la mejor forma de hackear una inteligencia artificial?
Diario de Innovación #391
Cuando pensamos en hackear una IA imaginamos una escena muy concreta.
Un programador.
Varias pantallas.
Miles de líneas de código.
Herramientas como Codex, Claude Code o Cursor.
Y horas intentando encontrar una vulnerabilidad en el sistema.
Pero quizá el mejor ataque no consista en escribir una sola línea de código.
Quizá baste con cambiar los colores de una sudadera.
O con pintar unas líneas distintas sobre el asfalto.
O con colocar una simple pegatina sobre una señal de tráfico.
Porque las inteligencias artificiales no entienden el mundo.
Lo interpretan.
Y basta con alterar esa interpretación para que todo el sistema falle.
En 2016 un Tesla con Autopilot chocó contra el lateral de un semirremolque blanco que cruzaba la carretera.
El sistema no reaccionó.
Las investigaciones posteriores mostraron que la combinación del remolque blanco con un cielo muy brillante hizo que el sistema de visión no identificara correctamente el obstáculo.
Tres años después ocurrió un accidente muy parecido.
No era que el coche “pensara que era un túnel”, como muchas veces se cuenta.
Era algo mucho más interesante.
Su percepción del mundo había sido engañada.
El software funcionaba exactamente como había sido diseñado.
Lo que fallaba era la representación que el sistema construía de la realidad.
Y eso cambia completamente la conversación.
Porque ya no hablamos de errores de programación.
Hablamos de errores de percepción.
La IA no ve el mundo. Ve patrones.
Ahí aparece uno de los conceptos más fascinantes del aprendizaje profundo.
Los llamados ataques adversariales.
Pequeñas modificaciones, muchas veces invisibles para una persona, capaces de alterar completamente la decisión de un modelo.
Una pegatina.
Una textura.
Un patrón de colores.
Una sombra.
Algo que para nosotros es irrelevante puede convertirse en la diferencia entre que una IA detecte un objeto… o no lo vea en absoluto.
Y eso es exactamente lo que acaban de demostrar unos investigadores.
Una sudadera que hace “desaparecer” personas
Un equipo de la Universidad de Maryland diseñó una sudadera cuyo estampado no busca ser bonito.
Busca engañar a la inteligencia artificial.
Para construirla, el algoritmo analizó miles de imágenes y calculó un patrón de píxeles capaz de confundir a los sistemas de detección de personas.
El resultado parece sacado de una película de ciencia ficción.
Para un ser humano la persona sigue perfectamente visible.
Para muchos modelos de visión artificial, simplemente deja de existir.
No hay malware.
No hay acceso al sistema.
No hay ingeniería inversa.
Solo física.
Solo luz.
Solo colores.
Y, sin embargo, el resultado es un hack.
El verdadero ordenador ya no está dentro del ordenador
Durante décadas la seguridad informática consistía en proteger servidores, aplicaciones y redes.
La IA cambia esa lógica.
Porque ahora una parte del “software” vive fuera del software.
Vive en el entorno.
En la iluminación.
En los reflejos.
En los ángulos de visión.
En las texturas.
En la ropa.
En una señal de tráfico.
En la pintura de una carretera.
En una pantalla colocada delante de una cámara.
La frontera entre ciberseguridad y mundo físico empieza a desaparecer.
Y eso obliga a repensar cómo diseñamos sistemas realmente robustos.
Food for thought
Durante los últimos años hemos hablado obsesivamente de modelos cada vez más grandes.
Más parámetros.
Más contexto.
Más capacidad de razonamiento.
Pero quizá la siguiente gran competición sea otra.
Construir modelos que no solo razonen mejor.
Sino que perciban mejor.
Porque una IA extraordinariamente inteligente sigue siendo extremadamente vulnerable si alguien consigue engañar a sus ojos.
Y esa es probablemente una de las grandes lecciones que nos deja esta historia.
La inteligencia artificial no siempre se hackea entrando en el sistema.
A veces basta con convencer al sistema de que la realidad es distinta de lo que realmente es.
🌍 El eco del mercado
🤖 Anthropic lleva Claude Cowork al móvil y la web. Anthropic amplía Claude. Cowork más allá del escritorio. Los usuarios podrán delegar tareas desde el móvil, seguir su progreso y recoger el resultado más tarde, incluso con el ordenador apagado. La compañía consolida así el modelo de agentes que trabajan de forma asíncrona y persistente.
💼 Microsoft empieza a reducir el coste de la IA utilizando modelos propios. Microsoft estaría sustituyendo parte de las peticiones que antes resolvía con modelos externos por modelos desarrollados internamente, especialmente en productos como Outlook y Excel. El objetivo es reducir el enorme coste operativo asociado a la IA generativa.
⚙️ DeepSeek prepara chips propios para ganar independencia tecnológica. La compañía china estudia diseñar sus propios aceleradores de IA con el objetivo de reducir su dependencia de Nvidia y, en menor medida, de Huawei, en un contexto marcado por las restricciones estadounidenses a la exportación de tecnología.
🇨🇳 China levanta una nueva muralla alrededor de su ecosistema de IA. Mientras Occidente discute sobre modelos abiertos frente a cerrados, China empieza a considerar la inteligencia artificial como un recurso estratégico nacional, limitando dependencias externas y reforzando el control sobre su desarrollo.
🎨 Meta lanza Muse Image para Instagram y WhatsApp. Meta presenta Muse Image, su nuevo modelo de generación de imágenes integrado directamente en Instagram, WhatsApp y Meta AI, con el objetivo de competir frente a OpenAI y Google en creatividad generativa.
🧩 Figma compra un equipo especializado en “vibe coding”. Figma adquiere el equipo de una startup surgida de Y Combinator dedicada inicialmente al “vibe coding” y posteriormente a la creación de agentes de desarrollo.
📊 La gobernanza del contenido marca la diferencia en la IA empresarial. Un estudio de Box concluye que las organizaciones más avanzadas en IA comparten tres características: mejor acceso al contenido, mayor gobernanza del dato y plataformas suficientemente flexibles para evolucionar rápidamente.
🔀 Liberty Mutual demuestra el valor de una arquitectura multmodelo. La aseguradora apenas sufrió el impacto de la retirada temporal de un modelo de IA gracias a una arquitectura diseñada para trabajar con múltiples proveedores de modelos.
🏢 Los agentes empresariales chocan con tres grandes barreras. Red Hat identifica que el despliegue de agentes de IA en producción sigue frenado por tres factores: el coste operativo, los nuevos riesgos de seguridad y la resistencia organizativa.
🚨 Un fallo en la moderación por IA de Discord bloqueó más de 8.000 cuentas. Discord reconoce que un error en sus sistemas automáticos de moderación provocó durante semanas el bloqueo de miles de usuarios por imágenes completamente inocuas.
🔐 Las mayores brechas de ciberseguridad de 2026 dibujan un nuevo mapa de riesgos. TechCrunch recopila los incidentes de seguridad más relevantes del año, incluyendo ataques a infraestructuras críticas, organismos públicos y grandes filtraciones de datos.
🌊 Samsung quiere llevar los centros de datos al mar. Samsung trabaja en centros de datos flotantes que podrían comenzar a operar antes de 2028, aprovechando el agua para refrigeración y reduciendo restricciones de suelo y energía.
⚖️ La ONU vuelve a pedir una prohibición global de las armas autónomas. El Secretario General de Naciones Unidas insiste en impulsar un acuerdo internacional que limite el desarrollo y despliegue de sistemas militares completamente autónomos.
🚗 Tesla prepara un sistema de verificación de identidad para sus asistentes de conducción. El código de la aplicación de Tesla revela indicios de futuras verificaciones de identidad antes de acceder a determinadas funciones avanzadas de asistencia al conductor.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
📚 PD: La mayoría de los ataques contra la IA no explotan errores de programación, sino vulnerabilidades en la forma en que los modelos perciben e interpretan el mundo. Si te interesa profundizar en este campo, estas cinco lecturas son un excelente punto de partida:
Adversarial AI Attacks, Mitigations, and Defense Strategies de John Sotiropoulos
Una guía práctica para comprender cómo funcionan los ataques adversariales contra modelos de IA, las técnicas utilizadas para engañarlos y las estrategias más eficaces para diseñar sistemas resistentes.El Arte de la Invisibilidad de Kevin Mitnick. Mucho más que un libro sobre hacking: una introducción a la mentalidad del atacante y a cómo identificar las debilidades de cualquier sistema, tecnológico o humano.
Hands-On Machine Learning with Scikit-Learn, Keras & TensorFlow de Aurélien Géron. La referencia para comprender cómo aprenden los modelos de Machine Learning y Deep Learning. Antes de proteger una IA, conviene entender cómo funciona.
Hands-on Machine Learning for CiberSecurity de Soma Halder y Sinan Ozdemir. Explica cómo proteger modelos de Machine Learning a lo largo de todo su ciclo de vida, desde el entrenamiento hasta su despliegue en producción.
AI Engineering de Chip Huyen. Un enfoque práctico sobre cómo construir sistemas de IA fiables, escalables y preparados para operar en el mundo real.
🛠️ PD2. ¿Quieres empezar a pensar como un hacker (ético)?
La mejor forma de entender cómo se protege un sistema es comprender primero cómo puede ser atacado. Estos dispositivos son utilizados por estudiantes, makers, investigadores y profesionales de la ciberseguridad para aprender en entornos controlados y desarrollar nuevas habilidades.
Flipper Zero - La “navaja suiza” del hacking ético. Permite experimentar con RFID, NFC, infrarrojos, Bluetooth y otros protocolos inalámbricos para comprender cómo funcionan los sistemas físicos y electrónicos que utilizamos cada día.
Raspberry Pi 5 Starter Kit - Un ordenador completo del tamaño de una tarjeta de crédito con el que puedes montar desde laboratorios de ciberseguridad y servidores hasta proyectos de visión artificial, domótica o inteligencia artificial.
HackRF One - Una potente plataforma de radio definida por software (SDR) que permite analizar y experimentar con señales inalámbricas en un amplio rango de frecuencias. Una herramienta imprescindible para aprender sobre comunicaciones y seguridad radio.
RTL-SDR Blog V4 - La puerta de entrada al mundo del análisis de radiofrecuencia. Con una inversión reducida podrás visualizar y estudiar emisiones de radio, satélites, ADS-B, meteorología, AIS y multitud de protocolos inalámbricos.
Cardputer - Un pequeño ordenador portátil basado en ESP32 con pantalla, teclado y conectividad Wi-Fi y Bluetooth. Perfecto para iniciarse en programación, IoT, automatización y pequeños proyectos de seguridad ofensiva y defensiva.