Cuando preguntas a una IA qué debes hacer, ¿quién te está respondiendo realmente?
Imagina que tienes problemas con tus suegros.
Se meten demasiado en tu matrimonio.
Y preguntas a una inteligencia artificial qué deberías hacer.
Una puede recomendarte que pongas límites.
Que mantengas cierta distancia.
Que no tengas que justificar cada una de tus decisiones.
Otra puede sugerirte exactamente lo contrario.
Que intentes comprenderlos.
Que probablemente interfieran porque están preocupados.
Que busques un compromiso.
Y una tercera quizá te recomiende que antes de hacer nada escribas cómo te sientes y proceses tu frustración.
Las tres respuestas pueden sonar perfectamente razonables.
Ese es precisamente el problema.
No existe una respuesta correcta.
Hace unos meses The Economist hizo un experimento muy interesante.
Cogió 25 de los modelos de inteligencia artificial más avanzados y los sometió a preguntas del World Values Survey, una investigación que lleva décadas estudiando las creencias y valores de personas de todo el mundo.
Las preguntas permiten situar a las sociedades aproximadamente sobre dos ejes: tradicional ↔ secular vs supervivencia ↔ autoexpresión.
La sorpresa llego cuando casi todos se concentraron en una zona en particular.
La mayoría de los modelos occidentales analizados ofrecieron respuestas mucho más seculares y orientadas hacia la autoexpresión individual que gran parte de la población mundial. En el experimento, algunos llegaron a posiciones más extremas en esos ejes que las medias de cualquiera de los países comparados.
Eso no significa que una IA «sea liberal» o «sea secular» como podría serlo una persona.
Una IA no tiene (debería tener) convicciones.
Sin embargo, sus respuestas reproducen consistentemente determinados marcos de valores.
Unos modelos pueden inclinar sus respuestas hacia valores más individualistas.
Otros hacia valores más próximos al Estado que los regula.
Pero la conclusión interesante no es decidir cuál de ellos tiene razón.
Es que ninguno de ellos llega en vacío.
Y entonces aparece Talkie
Aquí es donde el experimento se vuelve todavía más interesante.
Porque alguien hizo algo aparentemente absurdo.
Entrenar un modelo únicamente con textos publicados antes de 1931.
Se llama Talkie.
Cuando The Economist lo sometió al mismo tipo de preguntas, el resultado fue muy diferente.
Talkie otorgaba mucha más importancia a Dios.
Mostraba mucho más orgullo nacional británico.
Y defendía el orden y la autoridad bastante más que los modelos actuales analizados.
Tiene sentido.
Si alimentas una inteligencia artificial con la cultura escrita de hace cien años…
obtienes parte de la cultura de hace cien años.
Parece evidente cuando lo vemos así.
Pero rara vez pensamos en ello cuando hablamos con ChatGPT, Claude, Gemini, DeepSeek o cualquier otro modelo moderno.
Sus respuestas también proceden de algún sitio.
Internet tampoco es neutral
Un modelo aprende leyendo cantidades gigantescas de texto.
Pero inevitablemente también aprende la cultura contenida dentro del lenguaje.
Incluso el idioma puede cambiar las respuestas: investigaciones citadas por The Economist encontraron diferencias políticas en las respuestas de modelos dependiendo de la lengua utilizada, vinculadas en parte al ecosistema informativo presente en los datos con los que aprendieron esos idiomas.
Después llegan los humanos
Una vez entrenado el modelo, las compañías realizan el llamado post-training.
Los humanos y otros sistemas enseñan al modelo qué respuestas son mejores.
A eso solemos llamarlo alignment.
Y aquí aparece una cuestión incómoda.
Porque alinear siempre significa alinear con algo.
Es decir, personas tomando decisiones, basadas en sus valores y sesgos.
El error sería pensar que existe la neutralidad
Hay preguntas que son innegables, que los planetas orbitan alrededor del sol, la duración de un año, la velocidad de la gravedad,…
Hay cuestiones donde la IA no puede alucinar.
Incluso si la IA alucina, tenemos una herramienta extraordinariamente poderosa para corregirla: los hechos.
Pero que pasa frente a preguntas del estilo:
¿Debería perdonar a esta persona?
¿Estoy dedicando demasiado tiempo al trabajo?
¿Qué debería enseñar a mis hijos?
¿Es razonable dejar esta relación?
¿Cuánto dinero es suficiente?
¿Qué significa vivir bien?
Aquí ya no existe una base de datos que consultar.
Y entonces ocurre algo curioso.
La IA sigue respondiendo.
Con seguridad.
Con argumentos.
Con estructura.
Con ese tono extraordinariamente convincente que hemos aprendido a interpretar como inteligencia.
Pero ya no nos está dando simplemente información.
Nos está ofreciendo una forma de interpretar el mundo.
La distancia entre asistente y consejero es mucho más pequeña de lo que parece.
Y ahí es donde el asunto empieza a ponerse interesante.
Porque cuando una máquina nos responde de forma tranquila, estructurada y razonable aparece una tentación enorme: confundir coherencia con verdad.
La inteligencia artificial puede ayudarnos a pensar.
Puede mostrarnos perspectivas que no habíamos considerado.
Puede cuestionar nuestras hipótesis.
Puede poner argumentos sobre la mesa.
Todo eso es extraordinariamente valioso.
Pero hay una tarea que no deberíamos delegarle.
Decidir qué debemos valorar.
Porque la IA puede razonar sobre nuestros valores.
Puede incluso ayudarnos a descubrirlos.
Pero no debería ahorrarnos el trabajo incómodo de decidir cuáles son.
Y quizá esta sea una de las habilidades más importantes que tendremos que conservar en un mundo lleno de inteligencia artificial: el criterio.
No porque las máquinas no lo tengan.
Sino porque el suyo procede de algún sitio.
Y puede no ser el nuestro.
Food for thought
Durante mucho tiempo nos hemos preocupado por la alucinaciones de la IA.
Pero quizá deberíamos empezar a preocuparnos también por si nos da una respuesta perfectamente razonable sobre una pregunta para la que nunca existió una respuesta correcta.
Porque entonces el problema ya no es descubrir si la máquina se equivoca.
El problema es decidir si estamos de acuerdo con ella.
Y esa responsabilidad sigue siendo nuestra.
Hasta ahora nos preocupaba que la IA tuviera nuestras respuestas.
Quizá deberíamos preocuparnos también por quién le dio sus valores.
🌍 El Eco del Mercado
🏛️ La FTC investiga los riesgos de los agentes de OpenAI y Anthropic. El regulador estadounidense prepara requerimientos de información y declaraciones de directivos para examinar los posibles daños de los sistemas avanzados. La investigación traslada la seguridad de los agentes desde los compromisos voluntarios hasta la supervisión formal.
🟣 OpenAI presenta dots, un agente que trabaja permanentemente. Los nuevos agentes pueden perseguir objetivos a través de distintas aplicaciones y comunicarse mediante Slack y Teams. OpenAI permitirá fijar límites y exigir autorización para acciones sensibles, después de varios incidentes protagonizados por sus sistemas.
📜 Trump y los grandes laboratorios firman un pacto voluntario de seguridad. OpenAI, Anthropic, Google, Meta, xAI y Nvidia se comprometen a establecer controles internos, auditorías independientes y supervisión desde sus consejos. El acuerdo es «moralmente vinculante», pero no contempla obligaciones legales ni sanciones.
🇨🇳 DeepSeek y Huawei construyen una alternativa abierta a CUDA. DeepSeek publica herramientas y bibliotecas optimizadas para los procesadores Ascend de Huawei, además de colaborar en un sistema con 128 chips Ascend 950. China intenta reducir su dependencia de Nvidia no solo mediante hardware propio, sino creando el software necesario para utilizarlo.
🏦 El Banco de Inglaterra alerta de los riesgos financieros de la IA. El supervisor reclama pruebas rigurosas de los modelos y mecanismos que permitan intervenir ante un fallo. La deuda relacionada con la IA emitida este año alcanza ya unos 450.000 millones de dólares, lo que aumenta la exposición de los mercados a una posible corrección tecnológica.
🛡️ Sekoia lleva su agente de ciberdefensa a producción. La empresa francesa despliega Elevate entre sus clientes después de probarlo con unos 2.000 usuarios. Su objetivo es investigar y responder automáticamente a ataques que también empiezan a utilizar agentes de IA.
🚨 Cincuenta grandes empresas preparan respuestas conjuntas a crisis de IA. JPMorgan, Citi, Amazon y Microsoft participan en una alianza para coordinar la respuesta ante incidentes cibernéticos capaces de propagarse entre sectores. El grupo elaborará protocolos de crisis y estándares de seguridad para grandes modelos y software abierto.
🖧 HPE recibe de Vultr un pedido de servidores por 1.200 millones. HPE suministrará racks equipados con aceleradores de AMD para ejecutar cargas de inteligencia artificial. El contrato ofrece una señal concreta de demanda para una infraestructura alternativa al ecosistema dominado por Nvidia.
🧩 AWS compra a Synopsys más de 1.000 millones en diseños de chips. Amazon licenciará durante varios años componentes especializados para desarrollar sus futuros procesadores. El acuerdo muestra que diseñar chips propios consiste cada vez más en controlar cómo se integran bloques tecnológicos procedentes de distintos proveedores.
🛰️ Varda capta 250 millones para fabricar medicamentos en órbita. La compañía alcanza una valoración de 1.600 millones de dólares y ampliará su flota de cápsulas-laboratorio. Su modelo deberá demostrar que las ventajas de producir en microgravedad compensan los costes y riesgos de lanzar y recuperar cada misión.
🔍 La transparencia sobre seguridad se convierte en una barrera para la IA china. Un análisis de Reuters señala que Z.AI ha publicado un marco de seguridad y retrasado GLM-5.3 para someterlo a pruebas, aunque los laboratorios chinos todavía divulgan menos información que sus rivales estadounidenses. Las evaluaciones públicas pueden convertirse en un requisito práctico para acceder a mercados regulados como Europa y Corea del Sur.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD. Si quieres seguir tirando de este hilo, cuatro libros.
Ética para máquinas — José Ignacio Latorre. Probablemente el que mejor acompaña la edición de hoy, lo leí este verano y me gustó mucho, especialmente la parte final. Latorre plantea algo incómodo: si las máquinas van a tomar cada vez más decisiones por nosotros, tenemos la responsabilidad de decidir qué principios queremos transmitirles. Publicado en 2019, antes de ChatGPT, y hoy resulta todavía más pertinente.
Human Compatible — Stuart Russell. Uno de los padres de la IA moderna se hace una pregunta aparentemente sencilla: ¿qué ocurre cuando construimos máquinas extremadamente capaces y les damos objetivos que no representan exactamente lo que queremos? El problema no es que la máquina sea malvada. Es que haga perfectamente aquello que le pedimos y descubramos demasiado tarde que se lo pedimos mal.
The Alignment Problem — Brian Christian. Quizá el mejor libro para entender de dónde sale eso que llamamos «valores» en una máquina. Datos, recompensas, decisiones humanas, sesgos y entrenamiento. Porque alinear una IA con nuestros valores exige resolver antes un pequeño detalle: ponernos de acuerdo sobre cuáles son esos valores.
Atlas of AI — Kate Crawford. Amplía todavía más el objetivo. La IA no es únicamente un modelo matemático. Detrás hay datos, empresas, personas, infraestructuras, recursos y relaciones de poder. Una buena vacuna contra la tentación de pensar que la tecnología aparece ante nosotros limpia, objetiva y neutral.
Cuatro libros diferentes para llegar prácticamente al mismo sitio: Las máquinas no nacen con valores. Se los damos nosotros.
PD2. Antes de preguntarle a la IA, piensa. Por eso hoy te traigo una figura de El Pensador de Rodin para tener encima de la mesa, y te recuerdo que antes de delegar el pensamiento seas tú quien tome propiedad del mismo.