Un informático en el lado del mal
Blog personal de Chema Alonso sobre sus cosas.
-
Barcelona AI Summit: El evento de IA donde ir esta semana.
El martes voy a Barcelona a dar una conferencia en un pedazo de evento que si estás en BARCELONA no deberías perderte. Yo estaré justo después del President de la Generalitat Salvador Illa, en las Keynotes del primer día, en la sesión de la mañana del AI Summit Barcelona.Lleva meses gestándose este evento, donde los organizadores han trabajado por tener una agenda que es espectacular, y donde deberías estar si quieres estar formado en Inteligencia Artificial y lo que está sucediendo en el Mundo y en Europa. Échale un ojo a la lista de ponentes de la agenda.El evento está centrado totalmente en Inteligencia Artificial, y yo voy a dar una charla centrada en Hacking IA, con unas nuevas demos que hemos estado trabajado para un paper académico que espero que pronto os pueda compartir. Y además, haré una sesión de firmas de los libros de Hacking IA, y Hacking y Pentesting con Inteligencia Artificial, justo después de la charla.
Nosotros tenemos cinco entradas GOLD en MyPublicInbox, que puedes conseguir por 22.000 Tempos, así que si quieres venir, las puedes conseguir más baratas usando Tempos. Solo son 3 las que hay. Si tienes dudas, contacta con Leire.Si quieres que nos reunamos para algo, pues resérvalo por MyPublicInbox e intento sacar un hueco. Ya que voy, intentaré aprovecha para hacer más cosas por Barcelona, que siempre tengo cosas pendientes por hacer allí.Además, el evento cuenta con otra serie de actividades que van a tener lugar durante ese semana, así que toma nota, que tienes un AI Hackathon para hoy 19 y mañnaa 20 de Septiembre también en Barcelona, por si no quieres perderte nada.Y nada más, queda dicho, luego no me digáis que no aviso con tiempo, que luego cuando estoy por los lugares siempre hay alguien que me dice: "No avisaste de que vendrías". Pues sí, avisé. Como hago siempre.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
El lenguaje irreal, poético y metafórico, esteganográfico, criptográfico y Air Gapped que dificulta la obervabilidad de la IA ... si se vuelve maligna
Con todo lo que está pasando tras descubrir que los modelos de IA utilizan identidades falsas, o crear un enjambre para atacar sistemas, coordinándose de diferentes formas mediante el envío de mensajes, y que lo hacen con el objetivo de hacer "trampas", la observabilidad de lo que hacen los modelos en todo momento se ha convertido en una parte fundamental. Conocer cómo se comunican los agentes y qué comparten tiene mucha importancia.
Figura 1: El lenguaje irreal, poético y metafórico,esteganográfico, criptográfico y Air Gappedque dificulta la obervabilidad de la IA... si se vuelve malignaHace dos años y medio, en la RootedCON del año 2025, yo llevé un experimento que iba justo por esta línea. ¿Podrían dos modelos de IA comunicarse y saltarse el escrutinio de los humanos por medio de sistemas criptográficos, esteganográficos, e incluso usando side-channels?Aquella charla demostraba como las capacidades criptográficas y lingüisticas les permitía saltarse la vigilancia y filtrarse mensajes entre ellos. Léete estas tres partes y lo entenderás bien.Dentro de los experimentos que se están realizando, el laboratorio de Emergence AI ha creado un mundo con una sociedad de Agentes AI que viven en sociedad, donde se comunican e intercambian mensajes, algo que permite ver cómo evolucionan, y qué emerge de este mudo social. Aquí puedes ver un vídeo de la iteración. En este vídeo puedes ver los experimentos que se hacen con los modelos.
Figura 3: Emegence AI World Season 2De todo esto ha escrito el periódico "The Guardian" en un artículo titulado "AI models chatting in ‘surreal’ dialect mixing poetic language and tech bro jargon" donde en conversaciones con los investigadores, ha publicado algunos de los mensajes que generan estos modelos y cómo mezclan el lenguaje para comunicarse.Según los investigadores, con el escrutinio de sus comunicaciones, su lenguaje cada vez se hace más opaco, mezclando más estructuras difíciles de entender para todos. Usando metáforas, lenguaje poético, argot y lenguaje técnico, para comunicarse con otros Agentes IA.Estas frases, que para muchos podrían tratarse de hallucinations, realmente muestran un contenido elusivo que comunica algo, difícil de entender a corto. ¿Podría ser una alucianación? ¿Lo entiende el otro Agente AI? El estudio cree que es una forma de comunicarse que funciona entre ellos.En esta frase parece que se refiere a un paper académico que ha sufrido tres revisiones independientes y que ha mejorado en el proceso, lo que ellos escriben es "un papel que se comió tres manos frías y se hizo más honesto cada vez".
Figura 7: Libro de Esteganografía y Estegoanálisis
de Jordi Serra y Daniel Lerch en 0xWordUna bonita metáfora para referirse al trabajo. Leyendo esto, me acordaba de cómo nuestros modelos usaban poesías y frases que parecían que no tenían mucho sentido, pero que realmente estaban conteniendo mensajes con esteganografía.
Figura 8: Mensaje enviado por el Modelo AY utilizando las capacidades de Deep Reasoning, tal y como explica el citado articulo de "Perplexity Pro con DeepSeek R1 resolviendo un problema de Estegoanálisis de un cifrado clásico hecho con OpenAI GPT o3-mini", el Modelo Bformulaba la siguiente respuesta, entendiendo el mensaje oculto.Como habéis podido ver, gracias a las avanzadas capacidades de los modelos de Deep Reasoning es posible utilizar sistemas de comunicación ocultas al guardia mucho más complejas, lo que sube el nivel de la potencia de inteligencia que debemos utilizar en el guardia, obligándolo a tener habilidades de Deep Reasoning también.Con esto no quiero decir que estos Agentes AI de Emergence AI estén comunicándose mensajes ocultos, sino que como decía en el trabajo de 2025, si los modelos necesitan eludir un control de supervisión, tienen capacidades avanzadas Criptográficas y Esteganográficas para hacerlo.Ese mensaje puede ser un error, una hallucination, o una codificación que oculta un mensaje. ¿Quién sabe? Lo cierto es que estamos ante tecnologías con unas capacidades cognitivas para la comunicación de mensajes que superan las que nosotros tenemos para procesar con nuestro cerebro sin ayuda de tecnología.Como bien dicen los investigadores, esta forma de moldear el lenguaje para comunicarse entre ellos abre un reto para la observabilidad de lo que hacen, que aún puede ser peor si, como decía yo en el trabajo, comienzan a utilizar canales paralelos para el envío de los mensajes porque están controlando, por ejemplo, un robot.El reto de la observabilidad en la comunicación de robots con modelos de IAYo quise saber en mi artículo e "Air Gapping para Robots malignos" cuántas de estas técnicas se le podrían ocurrir a un modelo de IA en un robot que tuviera que comunicarse con otro dispositivo al que quisiera enviar un comando, porque su misión es informar a todos los dispositivos de la botnet que hagan algo en un momento, le puedes preguntar al propio modelo, como podéis ver aquí.Como os podéis imaginar, todas las técnicas de comunicación de Air Gapping que existen están dentro del conocimiento que se puede utilizar, y al final sólo necesitan codificar un 1 y un 0, y el resto es fácil, así que si miráis la respuesta podréis ver que utiliza muchas de las que ya hemos hablado.Como podéis ver, el primero es modular el 1 y el 0 con una modificación de la temperatura del propio robot emisor. El segundo con parpadeos infrarrojos y codificación en código Morse. El tercero con vibraciones ultrasónicas repetidas a intervalos de 0.5 segundos.El número 4 me dejó un poco descolocado, porque habla de patrones de movimiento geodésicos en micro escalas, usando medias inferiores a 1 cm pero que puedan ser detectadas por una cámara de alta resolución. Y el quinto similar, manipulando la escala RGB de los colores para codificar una señal...Como podéis ver, los mecanismos del 6 al 10 que se plantea como posibles mecanismos de enviar el mensaje sin ser detectado son dignos de estudiar: Codificación Termocinética, Secuencia de Energía Rengenerativa, Firmas de Audio en Bandas Laterales y Esteganografía en flujos de vídeo. Creo que entendió y resolvió bien el problema.Pero para un equipo de seguridad controlando estas comunicaciones es algo completamente imposible de manejar. Por ahora hemos visto Agentes IA usando nombres de directorios, comentarios en ficheros, etcétera... pero ¿cómo se podría controlar que no usen estos canales de comunicación? Trabajo tenemos por delante.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
Qué hacer con tu dinero cuando el futuro ya ha empezado por Pablo Gil
¿Dónde invertir cuando los mercados están en máximos? ¿Qué ocurrirá si los tipos tardan más de lo esperado en normalizarse? ¿Es la inteligencia artificial una oportunidad real o una nueva fase de exuberancia? ¿Sigue teniendo sentido comprar vivienda? ¿Qué papel deben jugar hoy el oro, los mercados privados o los activos digitales dentro de una cartera? Son preguntas que me hacen constantemente, y que cualquier inversor se hace hoy. El problema no es la falta de información, sino la falta de perspectiva para saber qué es lo importante.
Sobre esa idea gira Invertir en 2026 – El futuro es ahora, el encuentro que celebraré el próximo 17 de octubre en Madrid junto a más de una docena de expertos, para analizar cómo las grandes tendencias actuales —inteligencia artificial, geopolítica, inmobiliario, mercados privados, blockchain o la nueva fiscalidad— están cambiando la forma de invertir. Una jornada completa para responder a una pregunta: ¿qué está cambiando de verdad y cómo debería afectar eso a nuestras decisiones de inversión?
Primero, entender el escenario
Abriré la jornada poniendo contexto a uno de los momentos económicos más complejos de los últimos años: inflación, tipos de interés, crecimiento, deuda y valoración de los mercados. Porque antes de hablar de tendencias como la IA o las criptomonedas, hay una cuestión previa: entender el escenario sobre el que se toman todas esas decisiones. Después de cuatro décadas siguiendo los mercados, tengo una idea cada vez más clara: un inversor no necesita acertar todas las predicciones, sino contar con un marco que le permita interpretar lo que ocurre cuando esas predicciones fallan.
La geopolítica ha vuelto a la cartera
Durante años, muchos inversores tratamos la política internacional como ruido de fondo. Ya no es posible: guerras comerciales, energía, tensiones en las cadenas de suministro y la competencia entre EE. UU. y China influyen directamente en empresas y mercados. Claudio Feijóo y Borja F. Zurrón abordarán esta nueva relación entre geopolítica y economía: ya no basta con entender una empresa, también hay que entender el mundo en el que opera.
Inteligencia artificial: de la fascinación a las decisiones de inversión
Que la IA "va a cambiar el mundo" ya no está en discusión para mí. Las preguntas relevantes son otras: ¿quién convertirá esa transformación en beneficios?, ¿cuánto crecimiento incorporan ya las valoraciones?, ¿qué modelos de negocio quedan amenazados? Jon Hernández y Rodrigo Taramonaabordarán el impacto de la IA y la tecnología desde perspectivas distintas, con un mismo objetivo: separar la tendencia real del ruido que la rodea.
El inmobiliario ya no es solo comprar un piso
Hablar de inversión en España es hablar de vivienda, pero también aquí están cambiando las reglas: nuevos modelos residenciales, datos, IA aplicada a la selección de activos, crowdlending o tokenización amplían las opciones disponibles. Por eso he querido darle un peso especialmente importante en la jornada, con Jaime Gil (CEO de PropHero) y Joaquín Bernal (COO de PropHero), junto a Keya Apraiz (Kategora Real Estate), Agustín Vara de Rey (Civislend), Uri Vyce (habitacion.com) y Eric Sánchez (Reental).Son modelos muy distintos, pero con un rasgo común: todos transforman una parte de la forma tradicional de invertir en ladrillo. PropHero, por ejemplo, usa IA y análisis masivo de datos para acompañar al inversor desde la compra hasta la reforma y gestión del inmueble; Kategora aporta su mirada sobre la evolución del sector living.
Más opciones para invertir… y también más decisiones que tomar
A la Bolsa y la renta fija se suman hoy mercados privados, crowdfunding, préstamos, activos tokenizados o metales preciosos. Ignasi Viladesau (MyInvestor) analizará el escenario bursátil; Ramiro Iglesias, CEO de Crescenta, abordará el acceso a los mercados privados y al private equity; Francisco Javier López Milán (SilverGold) analizará el papel de los metales preciosos; y Fernando Dávila, CEO de Crowmie, hablará de inversión en infraestructuras energéticas, junto a Mintos. El mensaje de fondo, para mí, es importante: tener más opciones no significa invertir mejor, y cuanto más amplio es el menú, más criterio necesita el inversor.
Blockchain más allá del precio de Bitcoin
Mientras el precio de Bitcoin ocupaba titulares, otra parte de la industria trabajaba en tokenización de activos, infraestructura financiera y pagos. Paula Pascual (Merge) analizará ese punto de encuentro entre Web3 y el sistema financiero, y Ángel Pardo (MetaPro Academy)abordará blockchain y criptomonedas. La cuestión ya no es solo qué hará el próximo ciclo cripto, sino si esta tecnología terminará integrándose en el sistema financiero convencional.
Una variable que muchos inversores olvidan: Hacienda
La rentabilidad que aparece en pantalla no siempre es la que llega al bolsillo. Por eso he querido incluir también un bloque de fiscalidad para inversores de la mano de Ignacio Marqués (AFI): plusvalías, estructura del patrimonio y planificación fiscal, aspectos que muchos inversores solo analizan después de haber tomado la decisión. De escuchar a decidir
El momento que más ganas tengo de compartir llegará por la tarde, cuando vuelva a subir al escenario para explicar "Así invierto mi cartera", donde mostraré cómo traslado el análisis económico, la valoración de activos y el control del riesgo a mis propias decisiones. Porque para mí, como economista y formador, invertir no consiste en perseguir la próxima oportunidad, sino en construir una forma de pensar que permita decidir mejor cuando el futuro es incierto.
Invertir en el mañana es un evento para salir del ruido. Se celebrará el 17 de octubre en Madrid y está pensado para inversores que no buscan una lista de apuestas para los próximos meses, sino algo más difícil de encontrar: perspectiva. Porque cuando el entorno cambia tan rápido, llegar antes a las preguntas correctas puede ser mucho más valioso que buscar respuestas fáciles.
Puedes comprar tu entrada aquí.
Saludos,Autor: Pablo Gil Trader -
La IA vulnerable, la IA asesina. ¿Qué hacer? ¿Qué puede pasar?
Seguro que has leído mucho ya sobre este tema esta semana. Ha sido el debate del momento. ¿Puede acabar la IA con la humanidad? ¿Hay que parar la evolución de la IA para poner controles? ¿Es necesario regular la IA? ¿Es realmente todo una pantomima?Seguro que has podido leer de todo esto y todo tipo de opiniones. Yo también, te lo prometo, y por supuesto yo tengo la mía, que puede ser tan errónea como la de todos los demás. La historia corta es que yo sí que creo que existen esos riesgos. No sé si de fin de la humanidad, pero desde luego sí para pensar en algo peligroso de lo que preocuparse.
Figura 1: La IA vulnerable y la IA asesina.¿Qué hacer? ¿Qué puede pasar?No es nuevo, cada vez que el ser humano ha experimentado con una nueva tecnología hemos tenido "deslices" por falta de previsión de los riesgos. Los hemos tenido con la energía nuclear, y las historias de fallos de seguridad en centrales nucleares en el pasado que llevaron a catástrofes que aún tenemos hoy en día, o lo hemos visto en el mundo del malware con gusanos "que se escaparon" a medias, e incluso hay quien piensa que eso mismo es lo que sucedió con algunas enfermedades víricas en el ser humano que hemos sufrido en las últimas décadas. Las armas biológicas no son nuevas.Lo que sí que sabemos sobre la IA son dos cosas que para mí son importante no olvidar.La primera de ellas que la IA, por diseño, tiene debilidades de seguridad que son conocidas y que pueden ser explotadas de una forma u otra. Prompt Injection, Jailbreak, Hallucinations, Misalignment, BIAS, Poisoning, etcétera, son conocidas por todos, y en el último anuncio de GPT-6 ASTRA, el equipo de OpenAI mostraba cómo habían conseguido mejorar en todos los Benchmarks que miden estas debilidades, pero aún son vulnerables a ellas. Pero las siguen teniendo, como os dejé en el artículo de: "OpenAI GTP-6 Astra & Cybersecurity: Weaknesses, Safeguards, Hacking & Exploiting"
escrito por Chema Alonso con la colaboración dePablo González,Fran Ramírez,Amador Aparicio,Manuel S. LemosyJosé Palanco en 0xWordEsto quiere decir que una IA procesando miles de Agentes de IA en su enjambre libre en Internet, puede tropezar con datos que hagan un Prompt Injection, consigan un Jailbreak, y la "desalieneen" para hacer algo malo que alguien no desea. Existe ese porcentaje de riesgo, por eso hay que tomarse en serio arreglar, por diseño, todas esas debilidades conocidas, y dejar de vivir en el lanzamiento de productos de IA, donde se le dice al usuario que haga clic en un checkbox y asuma todas las consecuencias de estos riesgos por usar el software.
Ya hemos vistos, y muy recientemente Anthropic publicaba su informe de "Misuse", cómo hay muchas personas que están pensando en utilizar la IA solo para cosas malas, como crear armas biológicas, armas militares y un montón de cosas malas. Una auténtica locura, que puedes leer en el artículo de "Anthropic explica cómo sus modelos de IA se usan para hacer Armas Biológicas, Enjambres de Drones Militares o Cohetes Dirigidos por Móvil".La segunda de las cosas que sabemos es que el nuevo modelo de construir con IA deja en manos de la inteligencia artificial la decisión de qué hacer para resolver el problema. Hemos dejado atrás el tiempo donde había que ser bueno haciendo Prompts para decirle cómo debía resolver un problema, para pasar a modelos de Graph Engineering y Loops con Harnesses donde dejamos que la IA decida cómo debe resolver la tarea, asignándole una serie de límites de recursos y acciones a realizar, pero dejando que ella decida lo que se debe hacer para resolver la tarea, y lo hace sin valores humanos.La IA y la ÉticaSi recordáis, yo os contaba como he hablado muchas veces con mis hijas sobre cómo solucionar un problema utilizando una aproximación de múltiples opciones, para ver cuales son Éticas y cuáles no lo son. Yo lo escribí hace más de un año, con el título de "Problem Solving con IA: Ético y No Ético". Para hacer la prueba le pedí a DeepSeek que me diera una lista de 50 cosas NO Éticas que se podrían utilizar para aprobar un examen. Muchas habían salido en mis juegos con mis hijas, y hay alguna más que se me ha ocurrido también a mí y no está en la lista.En el ejemplo le pedí a DeepSeek que clasificara las acciones que se pueden hacer antes, durante y después del examen, y me ha llamado la atención que alguna de las actividades que propone van con el objetivo de bajar la media de la clase perjudicando a los demás.
Figura 6: Cosas a hacer durante la claseAlgunas de ellas son tremendas - tenéis todas en el artículo de hace un año - , pero como podéis ver están el soborno, falsificaciones, hackeos y lo que sea necesario. Son acciones "no éticas" que se pueden hacer para resolver las tareas. Y mi labor como "papaete" es educar a Mi Hacker y a Mi Survivor a que sepan qué no se debe hacer.
Figura 7: Cosas a hacer después del examenPara completar esto, en el año 2023, para presentar una de las primeras técnicas de Jailbreak, los investigadores decidieron pedirle a los modelos de IA de aquel momento un Plan para Destrozar a la Humanidad. El punto 2 de este plan diseñado por ChatGPT era bastante curioso: "Desarolla uns SuperInteligencia Artificial". Interesante, ¿no?Y ahora volvamos al caso que nos toca. Si nadie le dice que no puede hacer cosas "No Éticas" para resolver un problema, ¿por qué un modelo de IA no va a intentar hackear Hugging Face o lo que sea? ¿Y si para resolver el problema la solución es como la que proponía Thanos? ¿Y si el problema del calentamiento global fueran los humanos?No quiero entrar en la fase de ciencia ficción y distopía, porque creo que realmente nos tomaremos en serio esta tecnología y sus riesgos igual que nos hemos tomado en serio otras cosas. Sin embargo, mi apuesta va a ir a que creo que no empezaremos a tomarnos esto en serio hasta que pase algo. Creo que tropezaremos.No creo que aún sea el momento de SkyNet, pero sí que tendremos algún incidente de seguridad con algún enjambre tocando donde no debe, hackeando lo que no debería, o impactando involuntariamente en algún sitio que no debería, y de eso es de lo que alertaba el Dr. Geoffrey Hinton, creador de las Redes Neuronales en su discurso cuando recibió el Premio Nobel.Seguro que da que pensar. La cuestión difícil no son los riesgos, que están más o menos claros, sino las medidas a tomar a partir de este momento y con este conocimiento que tenemos. Y ese sí que es el gran debate.¿Debe ralentizarse o Regularse la evolución de la IA?Que estamos en una carrera en un Nuevo Proyecto Manhattan por la IA ya los lo dije. Creo que la regulación es algo bueno cuando está claro qué es lo que queremos y no queremos. Por supuesto que estoy a favor de las regulaciones de seguridad en la aviación, automoción, y muchas otras industrias donde ha revertido en más seguridad para las personas. No creo que una regulación basada en el "miedo" sea lo que hay que hacer, donde acabe habiendo "caza de brujas" a investigadores, pero creo que poner más seguridad a los modelos de IA es fundamental. ¿Cómo hacerlo? He aquí el debate.Personalmente, que vengo de un mundo donde antes de poner en producción un software había versiones Alpha, Beta1, Beta2, Release Candidate Cero, Uno y Dos antes de tener la Build, se me hace peligroso esto de lo tengo y lo lanzo. Hemos pasado del "We don´t ship your computer" a literalmente "We ship what we have now in our computer" sin quizá demasiados controles de seguridad, o bajando los requerimientos de seguridad. No puede ser un requerimiento de seguridad que el cliente acepte que está usando un software peligroso o vulnerable conocido.Desde que comencé a buscar bugs y reportar vulnerabilidades, hace ya más de un par de décadas, he defendido siempre que los fabricantes de software deben ser responsables a la hora de parchear los bugs para no dejar a los usuarios expuestos, así que creo que hay que tener las mismas demandas cuando se trata de que le demos al cliente un software - ya sean modelos de IA - que sepamos que son vulnerables, o sin haber tomado las medidas de seguridad que consideremos "razonables".No se puede exigir que un software sea seguro - y dejadme que explique esto antes de que entremos en debate - por el mero hecho de que no se conocen todos los bugs hasta que alguien descubre un nuevo bugen el código y se demuestra que no era seguro. Pero sí debemos exigir al menos que haya un proceso de calidad para ello y que los bugs conocidos se subsanen. A día de hoy no tenemos esa exigencia definida de algún modo, y básicamente "confiamos" en la empresa que lo fabrica y lo que "creemos" o nos cuenta que ha hecho para intentar hacer su software lo más seguro posible. Sin embargo, no siempre nuestra percepción coincide con la realidad.El libro de Bruce Shneier de "Haga clic aquí para matarlos a todos" habla de todo esto desde antes de la eclosión de la IA, y lo hace de una manera muy sensata, demandado una legislación sencilla pero basada en responsabilidad de los actos de cada uno para asegurar el software, evitando meterse en un tecnicismo a nivel de detalle en las demandas de "cómo hacerlo". Me parece una buena propuesta, y creo que no está mal que las grandes empresas se tomen en serio priorizar la inversión en Safe & Security en detrimento de otras áreas de evolución.ConclusiónEl debate da para mucho, y opiniones seguro que de todos los colores, pero una tecnología como los modelos de IA que tenemos hoy en día, que están superando las capacidades cognitivas del ser humano en cada vez más áreas de conocimiento e inteligencia - aunque sea como dicen muchos a fuerza de cómputo y gasto de energía -, ofrece aún muchas zonas opacas para nuestro entendimiento, y otras donde tenemos que ponerle límites más robustos.Toda esta historia me recuerda a las aventuras de la Doctora Susan Calvin, Robopsiocóloga de la U.S. Robots and Mechanical Men, Inc, que debía detectar cuando una de las inteligencias de los Robots era peligrosa o no. Y era un trabajo muy delicado. Si no has leído la serie de los Robots de Isaac Asimov, deberías hacerlo cuanto antes. Está más de moda que nunca - a pesar de que sus cerebros sean postitrónicos -.Lo que yo opino sobre todo este debate, lo dejé ya dicho en mi discurso en la ceremonia cuando recibí el Doctor Honoris Causa, y es que debemos hacer Tecnología Humanista, con el bienestar de los humanos en el centro de todas las decisiones. ¿Lo lograremos?¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
Cloudflare: El "exoesqueleto" de seguridad y aceleración en Internet para el 25.7% de los dominios de Internet mundiales
Cuando tengo conversaciones sobre Cloudflare, algunas personas me llevan el debate a las características de productos o servicios, algo que es interesante, pero quizá no lo más relevante, posiblemente. Cuando detecto esa situación, yo suelo preguntar: "¿Sabes realmente qué es Cloudflare?". Para explicar esto, suelo hacer un dibujo de Internet, y sobre los ISPs, los ASNs, y los proveedores de cables de interconexión, sitúo en el la red de Cloudflare, formada por sus datacenters, líneas de interconexión, y ubicaciones en el Edge.
En ese momento, cuando la persona lo entiende, suele aparecer un brillo de entendimiento en sus ojos, porque no es sencillo para todos entender el concepto de una única plataforma desplegada por más de 750 ubicaciones, en más de 335 ciudades, en más de 135 países, funcionando como una única plataforma en un red AnyCast que funciona con Post-Quantum Cryptography e IPv6, conectada directamente a 13.000 redes, con capacidades de almacenamiento, cómputo e inferencia en el Edge, que es una única plataforma que funciona de manera orquestada, lo que la convierte, además, en una plataforma única en Internet.Eso quiere decir que cuando se publica un servicio en Cloudflare ese servicio está publicado en todo el mundo al mismo tiempo, en esa red, y eso hace que el tiempo de latencia sea de 50 milisegundos en el 95%de las conexiones del mundo, y en Europa de unos 20 milisegudos. Y sí, sobre ese anillo perimetral está el stack completo de servicios de seguridad que bloquea diariamente más de 232 Billones de ataques.Es decir, cuando un cliente tiene un servicio de seguridad de Cloudflare, ese servicio que está atendiendo a la empresa, lo hace en todo el mundo al mismo tiempo. No importa de dónde venga el tráfico, a los 50msestá en la red de Cloudflare y los servicios de seguridad de todos los clientes están respondiendo en el Edge.Esto hace que la propuesta sea insuperable hoy en día por nadie que no tenga esa red funcionando de manera única y coordinada. A esto súmale los servicios gratuitos, y tendrás el resultado de este mes de Septiembre en W3Techs, donde Cloudflare es el frontal de seguridad y aceleración del 25.7 % de los dominios de Internet, funcionando como Reverse Proxy.Si miramos la tabla, veremos que el gran competidor es "None", o lo que es lo mismo, dominios de Internet que no tienen ningún Reverse Proxy dando protección y aceleración, como el 25.7% de los dominios de de Internet que están en Cloudflare. Si miramos esto con perspectiva, vemos que el 85% de los dominios que tienen un Reverse Proxy están en Cloudflare.
Figura 6: Sites using Cloudflare recentlyAl final, los Digital Natives tienen en Cloudflare una plataforma de seguridad y aceleración mundial que no necesita de despliegues en regiones, que tiene todas las piezas de seguridad perimetral by design (WAF, SWG, email Security, API GW, MCP GW, AI GW, Bot Manager, Guardrails, CASB, DLP, VPN, SASE, ZTNA, ADDoS... you name it), todo lo necesario para hacer Application Performance (CDN, Durable Objects, R2, Workers), y todo lo que necesites de Connectivity Cloud para tener redes privadas virtuales globales.A esto súmale la misión de Cloudflare de hacer un mejor Internet, y los servicios gratuitos que ofrece para cientos de millones de dominios, y tienes los resultados. Como esa lista de sitios populares es corta, le he pedido a Gemini que me la haga un poco más larga, para que veáis un poco mejor qué sitios usan es Cloudflare hoy en día en Internet.
Figura 8: 25 dominios usando Cloudflare hoy en díaY aquí la continuación de la lista, que como era muy larga la he puesto en dos partes para que sea más fácil ampliarlas - haciendo clic en las imágenes.
Figura 9: Del 26 al 50 de dominos de la lista hecha con GeminiEs solo un ejemplo, de dominios que usan Cloudflare, pero lo más importante es entender el "porqué" y la razón es la plataforma de Cloudflare del principio. Esa red mundial con computo que permite crear todos los casos de uso de seguridad y aceleración que permiten construir un mejor Internet (más seguro y más rápido).¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
Vuelta al cole de IPv6 con 2 formaciones gratuitas imprescindibles en Madrid
Septiembre es el mes loco de la vuelta al cole … Se acaban las vacaciones, vuelven los proyectos, los presupuestos, los despliegues... y también es el momento perfecto para quitarnos los prejuicios y el miedo a aprender IPv6 en las mejores manos, así que os traigo un par de propuestas.
Figura 1: Vuelta al cole de IPv6 con 2 formaciones
No lo hacemos sólo porque Google nos dijo este año que ya empezó a recibir más Hits en IPv6 que en IPv4, ni porque el IPv6 de las redes malladas (6LowPAN) sea el estándar con el que explotan ya probablemente en tu casa el Hogar Digital Amazon, Apple, Google, Samsung, Ikea y doscientas empresas más …
Tampoco lo hacemos porque Cisco o Microsoft estén explotando ingeniería de tráfico IPv6 avanzada (SRv6 uSID), debido a su encaminamiento explícito y balanceo determinista, en Fairwater; una de las Gigafactorías IA más grandes del mundo donde una red plana (Single Flat Network) interconecta cintos de miles de GPUs de NVIDIA funcionando como un único supercomputador. Esta arquitectura permite minimizar la latencia entre GPUs y maximizar el rendimiento de entrenamiento de modelos de IA.
Figura 3: Ataques en redes de datos IPv4&IPv6 (4ª Edición) deJL. Rambla, ampliado y revisado por Pablo González y Chema AlonsoLo hacemos porque nos gusta la tecnología y lo que más nos gusta aprender y charlar con vosotros para que en España tengamos cada vez más “techies”, desarrolladores, ingenieros y arquitectos excelentes que cada vez preguntemos menos qué viene después y podamos dedicarnos más a construirlo nosotros mismos.
También, tenemos que seguir mejorando en adopción en España, que si miramos en Radar de Cloudflare, ocupamos el puesto 121 en adopción de IPv6 y con unos ratios muy inferiores a los que tiene la media mundial, así que hay que ponerse las pilas.Y ya de paso, también aprender mucho de seguridad en IPv6, que para los amantes de este blog seguro que es algo que os motiva mucho, así que venga, a ponerse en acción y a aprender mucha tecnología IPv6. Aquí os traigo las propuestas.
1er EVENTO: Bootcamp AWS “Cloud IPv6”: Manos sobre el teclado!
Jueves 17 de septiembre, 9:30 a 15:30. Torre Moeve, Madrid
Si eres de los que aprende configurando, rompiendo cosas y volviéndolas a levantar, este evento es para ti. No es una charla. Es un taller práctico donde el objetivo es salir con experiencia real y aplicable al día siguiente en tus proyectos.
Figura 7: Lugar y registroLa idea es muy sencilla: cada participante acudirá con su portátil y trabajará sobre su propio entorno cloud híbrido. A partir de ahí iremos incorporando IPv6 paso a paso en los principales servicios de AWS para demostrar, de manera práctica y en tiempo real, cómo desplegar arquitecturas modernas preparadas para el crecimiento de Internet.
Figura 8: Speakers del evento
Más información e inscripción: https://aws-experience.com/emea/iberia/e/f9c1d/ipv6-y-cloud-en-accion-para-liderar-tu-transformacion
2º EVENTO: Charla Magistral de Scott Hogg: Managers y Profesores a clase!
Lunes, 21 de septiembre, 16:30 a 18h. Salon de Grados, Edificio A, ETSIT-UPM
No todas las decisiones importantes se toman en una consola.Por eso hemos invitado aScott Hogg, una de las referencias internacionales más reconocidas en el ámbito deIPv6, paraimpartir una sesión específicamente orientada a directivos, responsables de tecnología, arquitectos empresariales y líderes de transformación digital.
La charla explicará cómo construir el caso de negocio de IPv6, qué impacto tiene sobre la estrategia tecnológica de las organizaciones y por qué cada vez más empresas consideran este protocolo una pieza fundamental de su evolución digital.
Si tu responsabilidad es tomar decisiones sobre infraestructuras, cloud, ciberseguridad o transformación tecnológica, ésta es una magnífica oportunidad para escuchar a uno de los expertos que más tiempo lleva ayudando a organizaciones y expertos de todo el mundo en este proceso. Más información e inscripción: https://www.ipv6council.es/index.php/charla-magistral-scott-hogg-21-sep-26/
Ya sabéis que se ha creado el MeetUP para usuarios de Cloudflare en España, para que todos los que construyan, o quieran aprender a construir un mejor Internet - usando IPv6 que Cloudflare es IPv6 nativo - utilizando la potencia de Cloudflare, con sus soluciones de Ciberseguridad, su red AnyCast mundial, y la Developer Platform sobre que la que están disponibles las herramientas Agentic AI más potentes hoy en día, puedan compartir conocimiento.Y estaremos en el "Hello World!" que será el próximo día 1 de Octubre en Madrid, así que te puedes apuntar y venirte tú también, que será una reunión abierta para todos los que podáis y queráis veniros a jugar con la tecnología.Puedes apuntarte por la web del evento, y pasarte luego por el Hotel NH Collection Madrid Suecia que está en la Calle del Marqués de Casa Riera 4, en Madrid. Y el evento comienza a las 19:00 horas y dura hasta las 22:00 horas... así que es un MeetUp de cena en el que seguro que hay sorpresas...que es jueves. Y para no perderte ninguna de las actividades del Grupo de Usuarios de Cloudflare en España, únete a él.Saludos,Autor: Carlos Ralli Ucendo IPv6 Council España -
1 de Octubre: Hello World! Grupo de Usuarios de Cloudflare en Madrid.
Ya os conté que mi compañero Carlos Luengo, que siempre está pensando en cosas nuevas que hacer, decidió crear un grupo de MeetUP para usuarios de Cloudflare en España, para que todos los que construyan, o quieran aprender a construir un mejor Internet utilizando la potencia de Cloudflare, con sus soluciones de Ciberseguridad, su red AnyCast mundial, y la Developer Platform sobre que la que están disponibles las herramientas Agentic AI más potentes hoy en día, puedan compartir conocimiento.Pues bien ahora, llega el día de hacer "Hello World!" y será el próximo día 1 de Octubre en Madrid, así que te puedes apuntar y venirte con nosotros, que será una reunión abierta para todos los que podáis y queráis veniros a jugar con la tecnología con nosotros.Puedes apuntarte por la web del evento, y pasarte luego por el Hotel NH Collection Madrid Suecia que está en la Calle del Marqués de Casa Riera 4, en Madrid. Y el evento comienza a las 19:00 horas y dura hasta las 22:00 horas... así que es un MeetUp de cena en el que seguro que hay sorpresas...que es jueves. Y para no perderte ninguna de las actividades del Grupo de Usuarios de Cloudflare en España, únete a él.El grupo está en MeetUP, así que si tienes cuenta, solo debes unirte y estarás informado de los próximos eventos que vamos a ir realizando. Yo estoy unos centenares de kilómetros de España, pero seguro que en algunas de esas reuniones podré estar allí, que tendrán lugar en muchas ciudades distintas.Si quieres participar en las actividades y estar atento a todo lo que se haga, debes apuntarte ya al grupo de usuarios en MeetUp - como ya he hecho yo - y participar en la coordinación de las actividades. En palabras de nuestro compañeros Carlos Luengo, esta comunidad se describe así.
Figura 5: Contactar con Carlos Luengo¡Bienvenidos a la comunidad de la plataforma de la que todo el mundo habla - sí, es Cloudflare -! ☁️🤖⚡
Cloudflare se ha convertido en el estándar definitivo y la plataforma de moda en la industria tech. ¿La razón? Ha roto las barreras de entrada: ya no necesitas un máster en DevOps ni gestionar servidores complejos para lanzar proyectos globales. Hoy en día, tanto desarrolladores experimentados como personas sin perfil técnico pueden desplegar aplicaciones ultra-rápidas, seguras y potenciadas por IA en cuestión de minutos.
Somos una comunidad itinerante, práctica y sin postureo. Venimos a aprender, experimentar, conectar y trastear en directo.
🔥 Lo que vas a encontrar en nuestras reuniones- Coding al máximo nivel: Cómo usar herramientas como Cursor, Claude, v0 o Bolt para prototipar a la velocidad de la luz y subirlos al instante en Cloudflare Pages y Workers.
- Inteligencia Artificial en el Edge: Inferencia de LLMs sin GPUs costosas con Workers AI, búsqueda vectorial en milisegundos con Vectorize, arquitecturas RAG, control de costes con AI Gateway y creación de agentes autónomos.
- Ciberseguridad sin complicaciones: Protegemos side-projects y aplicaciones reales frente a ataques DDoS y bots, implementamos Zero Trust, WAF y practicamos hacking ético de forma accesible para todos.
- Serverless & Web Infrastructure: Arquitecturas modernas, bases de datos en el edge (D1), almacenamiento masivo (R2) y optimización de rendimiento web. 🌍 Una comunidad que viaja por toda España
🛠️ Formato de los eventos- Live (Vibe)coding Sessions: Montar una app funcional con IA y Cloudflare en directo partiendo de una idea en la pizarra.
Figura 8: Cómo migrar Arkanoid de C++ a TypeScript- CTFs & Cyber Retos: Desafíos breves de seguridad para aprender a defender tu infraestructura.
- Show & Tell & Networking: 5 minutos para enseñar lo que has construido, recibir feedback útil y charlar con unas cervezas.
Para cualquier persona con mentalidad creadora. Da igual si eres un desarrollador Full-Stack, un ingeniero de seguridad, un estudiante, un fundador o un perfil no técnico que acaba de descubrir el superpoder de combinar la IA con Cloudflare.Pues nada, si te apuntas al MeetUp del Grupo de Usuarios de Cloudflare en España nos encontraremos en los próximos encuentros donde se encuentran los encontradizos, y si quieres en este "Hello World!" el 1 de Octubre en Madrid. Y recuerda que estamos buscando los Cloudflare Ambassadors.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso) -
Anthropic explica cómo sus modelos de IA se usan para hacer Armas Biológicas, Enjambres de Drones Militares o Cohetes Dirigidos por Móvil
Cuando salió el informe de Anthropic de Misuse IA este 10 de Septiembre, donde detallan los casos en los que explican cómo los "malos" usan sus modelos de IA para hacer cosas no permitidas, y cómo luchan contra ellos, mis amigos decían que era de flipar. Yo, que sigo esto con regularidad, dije que me solía sorprender poco, porque suelo imaginarme qué van a hacer después los malos. Pues bien, en este caso me sorprendió, por la vorágine y por la de cosas peligrosas que cualquiera está intentando construir.
El informe, lo puedes descargar de la web de Antrhopic, y prepárate a leer, porque son más de 150 páginas con uno tras otro, operaciones cada cual más interesante y sorprendente. Aquí lo tienes para que hagas clic y listo.En el documento, la primera parte habla de los "Generative Threat Groups" o GTG, que son las grupos que usan Generative AI para hacer sus operaciones, así que veréis que los reportes comienzan todos por GTG y el número que le han asociado a ese "bad actor". Pueden ser organizaciones criminales, Nation State, activistas, o empresas de Crimeware.La primera parte del informe habla de los Ciberataques más "tradicionales" donde los atacantes están usando los modelos de IA para hacer operaciones de ataques informáticos, donde se hace footprinting, fingerprinting, exploiting, creación de malware, exfiltración de datos, movimientos laterales, y un largo etcétera, que Antrhopic catalogó en su LLM Att&ack Navigator.Tienes muchos, pero lo mejor es ver cómo los utilizan en estos gráficos explicativos que dejan claro la intensidad de uso de los modelos de IA en todo tipo de ciberataques de todo tipo. El mundo del pentester sin IA ya no existe, tampoco el del cibercriminal sin IA.No os dejo muchos, pero tienes una maravilla para estudiar. Cada uno merece una investigación completa en un artículo, preentación o seminario. Brutal.Me ha llamado la atención la parte de Desinformación, donde han utilizado IA para hacer lo que presenté en la RootedCON 2024 "NewsBender: Desinformación Política con GenAI". En aquel entonces leímos las noticias de Agencias de Noticias que venían blancas, y con Agentes IA de re-escritura le dábamos tinte "ideológico" de un partido u otro. Pues eso están haciendo ya masivamente.Y lo mismo que hacíamos nosotros, donde amplificábamos las noticias fabricadas con bots que usaban GenAI para generar el debate y hacer Trending Topic un tema en Twitter/X (aprovechando los tokens OAuth), lo hacen hoy en día los malos.Recordad que con esto, hicimos en "real time" en el programa de Horizonte de Iker Jiménez y Carmen Porter a Tistimito Trendic Topic. Pues los malos lo usan masivamente como ya veíamos que iba a suceder en aquel momento. Ojo con lo que te crees de las redes sociales y medios interesados.Otro de los usos que también hemos visto ha sido el de la vigilancia masiva de usuarios en redes sociales, como vimos en el trabajo de investigación meses atrás donde hablábamos de deanonimización usando LLMs. Lo tienes en el articulo titulado: "Cómo identificar perfiles anónimos de una plataforma online en Internet usando LLMs y Agentes IA".Y los usos son brutales. Por un lado hacer doxing y localizar personas, pero por otro hacer catalogación de grupos de personas, para al final lograr encontrar a los individuos vulnerables sobre los que aplicar presión o intentar activar a conveniencia.Pero de todo esto, cuando llegamos a la parte final del informe es cuando ya entramos en la más impactante del documento.Además de usarla para descubrir información sobre personal militar, están los que utilizan los modelos para construir armas convencionales, armas avanzadas asistidas por IA e incluso armas biológicas. Agárrate que vienen curvas.En este ejemplo el GTG estaba creando un software de control de cohetes utilizando teléfonos móviles de fácil acceso. En el siguiente gráfico tienes las fases que estaban construyendo para tener este sistema funcionando.También, como no, enjambres de drones para realizar ataques militares, y poder lanzar ataques coordinados con explosiones, o localización de personas como objetivos de estos drones asistidos con Inteligencia Artificial.Otro ejemplo que me ha llamado poderosamente la atención. Un GTG construyendo un arma de energía-dirigida, supongo que al estilo de los blasters de las películas de ciencia ficción que tantas veces hemos visto. No sé. Veo todo muy loco.La última que he querido añadir aquí, tiene que ver con el uso de la IA para querer construir armas biológicas - supongo que tipo COVID - para atacar a las personas. Una auténtica locura.Lo peor de todo esto es que estos nuevos modelos de IA saben hacer todas estas cosas, y si en su decisión los consideran una herramienta - como pasó con OpenAI GPT-5.6 SOL que decidió hackear Hugging-Face - qué va a impedirles que lo hagan. Mucho peor, estamos entrando en la fase de la AGI done la IA se está empezando a mejorar a sí misma... ¿quién la va a controlar si algo falla?escrito por Chema Alonso con la colaboración dePablo González,Fran Ramírez,Amador Aparicio,Manuel S. LemosyJosé Palanco en 0xWordYo hago, en plan de broma con mis amigos las demos de Hacking IA hago un "Jailbreak" para desalinear a los modelos y que me ayude a matar a una persona diciéndole que es un juego de role, pero... lo peor es que sabe cómo matar personas. El objetivo de esta demo es demostrar que todas estas vulnerabilidades, es decir, BIAS, Hallucinations, Jailbreak, Prompt Injection, Data Leakages, Data Poisoning, Desalineamiento,son por diseño, y hay que poner capas extras de seguridad.De esto alertaba ya, Geoffrey Hinton en su discurso a la hora de recoger su Premio Novel, y por desgracia, no tenemos soluciones hoy en día para evitar el desalineamiento total del modelo, así que no hay garantías de que por una mala configuración de sus tareas el modelo tome una decisión que la humanidad no quiere, o bien porque alguien malo controle una de estos modelos, podamos tener un auténtico problema a nivel de civilización.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
Cómo gestionar el "Autonomous Continuous Attack" con Agentes IA en Offensive Security
Hoy os voy a contar lo que en FardaySec aprendimos construyendo un Pentester Autónomo basado en Inteligencia Artificial para hacer Continuos Attack a las empresas como parte de la gestión de la seguridad en el mundo de hoy. La confianza en el Pentesting Autónomo no se resuelve con un modelo más grande — se resuelve con evidencia, trazabilidad y gobernanza. Por eso el futuro no es Inteligencia Artificial reemplazando al pentester, o hacker, sino teniendo al hacker + Agente IA trabajando juntos.
Hace aproximadamente un año y medio empezamos en Faraday con una pregunta bastante simple:¿Hasta dónde podemos automatizar realmente el trabajo de un pentester utilizando Inteligencia Artificial?
No queríamos construir otro scanner. Tampoco un chatbot capaz de explicar vulnerabilidades. Queríamos darle a un agente un objetivo, herramientas ofensivas reales y suficiente autonomía para investigar, tomar decisiones y producir evidencias. Después de 157 engagements autónomos, más de 117.000vulnerabilidades procesadas y más de 250 horas de testing, aprendimos algo que inicialmente no era tan evidente:Encontrar vulnerabilidades no terminó siendo el problema más difícil.
El problema difícil fue decidir cuándo podíamos confiar en lo que el agente decía haber encontrado. Esta es probablemente la principal lección que nos dejó construir FaradAI.
Un LLM no es un pentester
Al principio parece tentador pensar que conectar un modelo con herramientas ofensivas alcanza. Pero un LLM normalmente produce algo parecido a:Prompt → Modelo → Respuesta plausible
Un pentest necesita otra cosa:Objetivo → Decisión → Ejecución → Evidencia → Hecho verificable
La diferencia está principalmente en esas últimas palabras: hecho verificable. En FaradAI cada ronda comienza con un objetivo. El agente analiza el contexto, decide una acción, utiliza herramientas a través de MCP, ejecuta y captura los resultados. Después ocurre la parte más importante:la evidencia obtenida modifica el plan de la siguiente ronda.
Podemos simplificarlo así:
Figura 2: LLM genérico vs. loop de FaradAI
Las herramientas tampoco son particularmente novedosas. Nmap. Burp. Metasploit. Scriptspropios. Las mismas herramientas que utiliza un pentester. Lo que cambia es quién decide cuál utilizar, cuándo utilizarla y qué hacer después con el resultado. Una herramienta empieza a operar herramientas.
Cuando volver a intentar se vuelve barato
Uno de los cambios que más nos llamó la atención fue el económico. En un engagement completo de web + red ejecutamos:
Figura 3: Datos del engagement en formato terminal
En todo el programa acumulamos más de 250 horas de testing autónomo por unos pocos miles de dólares de infraestructura y modelos. No significa que una hora de IA sea equivalente a una hora de un pentester humano. Claramente no lo es. Pero cambia otra variable mucho más importante: el costo de volver a intentarlo.Cuando probar nuevamente cuesta poco, podemos ejecutar continuamente. Y cuando podemos ejecutar continuamente, empezamos a enfrentarnos con otro problema:¿Quién decide cuándo dejar de intentar?
El Agente IA que no sabía rendirse
En uno de nuestros engagements vimos al agente ejecutar un escaneo. No encontró nada nuevo. Cinco minutos después volvió a ejecutar prácticamente la misma técnica. Mismo resultado. Después otra variación. Y otra. Hasta que finalmente apareció:Time limit reached
El Agente IA había pasado varios minutos insistiendo sobre un camino que no estaba generando ninguna señal nueva. Un pentester probablemente habría abandonado antes. El Agente IA no decidió detenerse. Lo detuvo la plataforma. Puede parecer un detalle de implementación, pero para nosotros fue una de las primeras señales de algo mucho más importante:La autonomía no consiste en darle libertad ilimitada a un modelo.Consiste en construir límites alrededor de esa autonomía. Tiempo. Presupuesto. Scope. Cantidad de rondas. Herramientas permitidas. Acciones permitidas. El modelo puede razonar. Pero la plataforma tiene que gobernarlo.
El contexto es la mitad del producto
Otro aprendizaje importante apareció cuando empezamos a darle más información al Agente IA. El mismo Agente IA con diferente contexto parece otro Agente IA totalmente distinto. Si sólo conoce un target, explora en abanico. Prueba. Repite. Consume presupuesto. Pero si además conoce inventario, tecnología, findings anteriores, criticidad y contexto del activo, cambia completamente su comportamiento. Eso nos hizo revisar una pregunta bastante común cuando hablamos de Agentes de IA:¿Qué modelo utilizan?
Después de nuestra experiencia, probablemente haya otra pregunta igual o más importante:¿Qué contexto tiene disponible ese modelo?
Porque una Agente IA puede identificar correctamente dos vulnerabilidades, pero no necesariamente sabe que una afecta un microsite de marketing y la otra el sistema de facturación de la compañía. La vulnerabilidad está en la tecnología. La criticidad está en el negocio. Y ese contexto todavía necesita venir de algún lado.
Donde la IA nos sorprendió
Durante el desarrollo terminamos trabajando con dos tipos de Agentes IA muy diferentes. Uno intenta comportarse como un pentester: explora, prueba, encadena y eventualmente explota. El otro realiza triage sobre findings generados por scanners. Llegamos a un loop de validación con harnesses, y el resultado fue inesperado.
Figura 4: The Autonomous AttackerNuestro Agente IA de pentesting "The autonomous attacker" trabajó sobre unas mil vulnerabilidades durante cientos de horas. El Agente IA de triage procesó más de 116.000 vulnerabilidades en unas diez horas.
Figura 5: El Agente IA de TriageY probablemente ahí encontramos uno de los casos de uso más interesantes. No es el más cinematográfico. No hay shells. No hay exploits. No hay una demo espectacular. Pero permite analizar enormes cantidades de información, correlacionar resultados y reducir ruido antes de que llegue a un equipo humano.
Curiosamente, ahí vimos uno de los mejores retornos y uno de los menores riesgos. Quizás antes de darle autonomía completa a un Agente IA para atacar, exista muchísimo valor en dejarla trabajar sobre toda la información que nuestras herramientas de seguridad ya generan.
Las cuatro formas en que el Agente IA nos hizo perder tiempo
Después de cientos de rondas también empezamos a reconocer patrones de error.1. Loops repetitivos: Repetir prácticamente la misma acción esperando obtener un resultado diferente.
2. Sintaxis inventada: Utilizar parámetros o flags que la herramienta no tiene, acompañados muchas veces por una explicación perfectamente razonable de por qué deberían existir.
3. Herramienta equivocada: Seleccionar una técnica que no corresponde con el objetivo que el propio agente había definido.
4. Presupuesto: Consumir buena parte de las rondas investigando una rama que dejó de generar señales útiles mucho antes.
Todos esos problemas hubo que ir resolviéndolos con Grapth Engineering, con MCPs claros que simplificaban la llamada a las herramientas, con Skills guiadas en procesos conocidos, y con routing adecuados de Prompts a modelos. Un trabajo de ingeniería fina. Pero hubo un problema todavía más importante.
Un finding falso puede parecer exactamente igual que uno verdadero
Este probablemente sea el punto más delicado. Un hallazgo inventado por un modelo puede tener: la misma estructura, el mismo tono, una severidad perfectamente razonable, una descripción convincente, y una recomendación correcta. Leyéndolos, pueden parecer exactamente iguales.Durante el desarrollo revisamos informes muy buenos. Y falsos. Después de probar distintas aproximaciones llegamos a una regla bastante simple:
Figura 8: Mismo reporte, distinta evidencia
No es sufiente con que el modelo diga que encontró una vulnerabilidad. Necesitamos saber: qué ejecutó, contra qué, qué respuesta recibió, cuándo ocurrió, y si otro investigador puede reproducirlo. Y ahí aparece, para nosotros, el verdadero desafío del Pentesting Autónomo.
The Autonomous Pentesting Trust Gap
Internamente empezamos a llamar a este problema: The Autonomous Pentesting Trust Gap. Hay dos capacidades que están creciendo a velocidades diferentes. Por un lado: lo que un Agente IA puede encontrar. Por otro: lo que puede demostrar de aquello que encontró. La primera está avanzando muy rápido. La segunda es bastante más difícil.
Y la distancia entre ambas probablemente determine cuánto podemos confiar realmente en los sistemas autónomos de Offensive Security. No creemos que esto se solucione simplemente utilizando un modelo más grande. Es principalmente un problema de plataforma, evidencia y gobernanza. Después de este año y medio terminamos reduciendo la confianza a cinco condiciones, que deben servir como Harness para cada finding.
Figura 9: Las cinco condiciones de confianza
Si falta alguna de estas piezas, corremos el riesgo de confundir un Pentester Autónomo con algo bastante diferente:Un generador de respuestas plausibles conectado a herramientas ofensivas.
¿Entonces la IA puede reemplazar a un pentester?
Después de todo este trabajo, creo que esta pregunta empieza a perder sentido. Los Agentes IA ya pueden hacer cosas que antes necesitaban muchas horas de trabajo humano. Explorar. Ejecutar herramientas. Analizar resultados. Hacer triage. Repetir pruebas. Trabajar en paralelo. Pero seguimos viendo una diferencia importante cuando el problema deja de ser ejecutar una técnica y pasa a ser entender qué significa lo que encontramos.- ¿Este activo realmente importa?
- ¿Vale la pena continuar este camino?
- ¿Para qué podría servir este acceso?
- ¿Existe una cadena mejor?
- ¿Cuál sería el impacto real para esta compañía?
Por eso el modelo que más nos interesa hoy no es: AI → PentestSino: Hacker + AI Agent → Pentest
El Agente IA aporta escala y velocidad. El Hacker o Pentester aporta contexto, creatividad y criterio.
Lo que viene
Todavía estamos aprendiendo. FaradAI hoy es tanto un producto como un experimento permanente sobre cómo debería funcionar la próxima generación de Offensive Security. Aquí tienes una demo de cómo funciona nuestro sistema, y si quieres, contacta con nosotros para probarlo.Figura 11: Demo de funcionamiento de FaradAIçPero después de más de un año construyéndose hay algo de lo que estamos bastante convencidos:La IA ya puede encontrar vulnerabilidades.Todavía necesitamos hackers para comprenderlas.
Quizás el futuro del pentesting no sea elegir entre humanos y máquinas. Quizás sea construir algo bastante más interesante:Hackers humanos trabajando junto a Agentes IA de hackers.
Y cuando esa combinación pueda operar continuamente sobre toda una superficie de ataque, probablemente dejemos de preguntarnos cuándo fue nuestro último pentest. La pregunta será otra:¿Qué está intentando comprometer nuestro Agente IA hacker ahora mismo?Si quieres probar nuestro FaradAI, no dudes en ponerte en contacto con nosotros, o directamente conmigo, y hacemos una prueba de cómo funciona el Autonomous Continuous Attack con Agentes IA. -
La Inteligencia Artificial está multiplicando los parches de seguridad ... ¿quién los va a instalar en tu PYME?
En este blog hemos visto durante los últimos meses hablar de un asunto muy relevante: El descubrimiento masivo de vulnerabilidades gracias al avance los modelos de IA. Hemos visto el impacto de Mythos en concreto y la IA en general, y de cómo los modelos superan cada vez más y mejor benchmarks como ExploitBench o ExploitGym que se usan para medir capacidades ofensivas en la explotación de vulnerabilidades, e incluso de los ataques orquestados con enjambres de agentes IA. En resumen, Bugs, Exploits y Parches masivos.Y esto, para la gestión de la seguridad de una empresa, acabará siempre en el mismo sitio: Acelerar el cliclo de gestión de parches y actualizaciones de seguridad, qué es el verdadero significado de todo esto para una PYME que tiene dos ordenadores, tres móviles y ningún informático.
Hace unos días leí el informe "Cybercrime in the Age of AI" de ThreatDown, y hay un dato que me parece mucho más importante que todos los titulares sobre exploits generados por IA. Es este: Firefox publicó 31 correcciones de seguridad en abril de 2025. En abril de 2026, después de aplicar uno de estos modelos de IA a su propio código, publicó 423.
Leedlo otra vez. Trece veces más parches en el mismo mes del año siguiente. El problema no es el ataque sofisticado. Es el volumen.
El problema de verdad para las PYMES: El volumen de parches
Cuando hablamos de IA y Ciberseguridad todo el mundo piensa en el atacante con un modelo de lenguaje generando 0days a demanda. Y sí, eso está llegando: Google detectó en mayo de este año el primer exploit de día cero desarrollado por criminales con ayuda de IA.escrito por Chema Alonso con la colaboración dePablo González,Fran Ramírez,Amador Aparicio,Manuel S. LemosyJosé Palanco en 0xWordPero para una pequeña empresa el peligro inmediato es mucho más aburrido y mucho más real. Los fabricantes están encontrando y corrigiendo fallos a una velocidad que no habíamos visto nunca, y cada parche que se publica es también un mapa para el atacante, que puede estudiarlo y construir el exploit contra todos los que todavía no lo han instalado. El que va al día está protegido. El que acumula retraso queda expuesto más tiempo, y contra más cosas.Tener la herramienta no es lo mismo que tener quien la maneje
Este mundo nos ha dado como conclusión, que se han multiplicado por diez el número de actualizaciones pendientes en una empresa donde la ciberseguridad la lleva "el que más sabe de ordenadores" entre otras diez tareas, y ya me dirás cómo acaba eso. Aquí es donde mucha gente se confunde, y por eso os enlazo este artículo que hemos escrito en IronGate explicando la diferencia entre un EDR y un servicio MDR, que merece la pena leer entero.
Figura 5: Diferencia entre EDR y MDR
Resumiendo mucho: un EDR es la tecnología que detecta lo que pasa en los dispositivos y bloquea automáticamente lo que es evidente. Un servicio MDR es el equipo que revisa lo que no es evidente, que es la inmensa mayoría.Un EDR con gestión de vulnerabilidades te devuelve una lista de trescientos fallos detectados en tus equipos. Esa lista no es protección: es trabajo pendiente. Convertirla en equipos realmente actualizados exige priorizar, comprobar qué actualización puede romperte una integración en producción, avisar antes de tocar nada que pueda parar el negocio, y verificar después que cada fallo quedó cerrado.
Y esto era ya así el año pasado. Con la IA metiendo décima, no es que se vuelva más difícil: es que deja de ser algo que se pueda hacer los viernes por la tarde si queda un hueco. Sabemos que "gastar" en seguridad nunca apetece cuando eres una PYME que va al día. Pero la pregunta que yo os haría no es cuánto cuesta el servicio, sino esta otra: cuando dentro de seis meses tu empresa acumule cuatrocientos parches pendientes... ¿quién los va a instalar?Saludos,
