El verdadero problema quizá no sea si las máquinas llegan a sentir. Sino qué empezamos a sentir nosotros por ellas.
Hay personas a las que no has visto en tu vida.
Pero sabes dónde viven.
Sabes qué equipo de fútbol siguen.
Dónde estuvieron de vacaciones.
Qué desayunan.
Y probablemente hasta qué opinan sobre asuntos que jamás has hablado con algunos de tus mejores amigos.
Ellos, por supuesto, no saben que existes.
Bienvenido a las relaciones parasociales.
El término lo acuñaron Donald Horton y Richard Wohl en 1956 para describir aquella extraña sensación de intimidad que la televisión empezaba a crear entre espectadores y personajes públicos.
Una especie de «intimidad a distancia».
Nosotros conocemos muchísimo sobre ellos.
Ellos prácticamente nada sobre nosotros.
Instagram, YouTube o TikTok no hicieron desaparecer ese fenómeno. Lo industrializaron y expandieron.
Pero creo que la inteligencia artificial puede darle la vuelta por completo.
Porque por primera vez puede ocurrir esto: que la persona famosa seas tú.
Piensa en tu relación con una IA durante los próximos cinco años.
No en una conversación aislada.
En miles.
Conocerá tus proyectos, dudas, decisiones, conversaciones con terceros, viajes.
Los libros que lees, las personas con las que trabajas.
Aquello que quieres comprar.
Lo que dijiste hace seis meses.
Las cosas sobre las que preguntas cuando estás preocupado.
Las veces que cambiaste de opinión.
Quizá incluso tus fotografías, tu calendario, tus datos de salud o tus finanzas, dependiendo de qué información decidas compartir con esos sistemas.
Hay una expresión que usamos mucho últimamente: «La IA me conoce».
Hoy es una exageración.
Pero quizá no lo sea tanto dentro de unos años.
Porque conocer no consiste únicamente en almacenar datos.
Consiste en encontrar patrones entre ellos.
Y ahí las máquinas pueden empezar a resultar inquietantemente buenas.
Imagínate que un día preguntas:
—¿Crees que debería aceptar este nuevo trabajo?
Y la respuesta no empieza hablando del sueldo.
Te dice:
—Llevas dos años diciendo que quieres tener más tiempo para tu familia. Las tres últimas oportunidades que has rechazado tenían algo en común: aumentaban tu responsabilidad, pero también tus viajes. Quizá la pregunta no sea si este puesto es mejor. Quizá sea qué vida estás intentando construir.
Eso no demuestra conciencia.
Ni sentimientos.
Ni mucho menos que exista alguien «dentro».
¿Podrían las IA llegar a ser conscientes?
Es precisamente la pregunta que planteaba recientemente The Economist.
Su advertencia es interesante: a medida que las IA se integren en nuestras vidas, sus creadores tendrán incentivos para hacerlas mostrar algo cada vez más parecido a una conciencia, independientemente de que exista realmente algo detrás.
Y aquí empieza el lío.
Porque seguimos sin entender completamente qué es la conciencia humana.
Mucho menos cómo demostrar que una máquina la posee.
Podríamos construir sistemas extraordinariamente inteligentes sin que exista ninguna experiencia subjetiva detrás.
Un actor perfecto.
Sin nadie dentro.
Pero quizá eso no importe tanto como pensamos.
Un estudio publicado este verano en Technology in Society, analizo las respuestas de 7.027 personas de Alemania, China, Sudáfrica y Estados Unidos que encontró conductas asociadas al apego emocional hacia chatbots en más de un tercio de los participantes. Aproximadamente uno de cada cinco situaba además a los chatbots como su primera opción para compartir secretos. El apoyo percibido, la ausencia de juicio y la sensación de privacidad aparecían entre los factores asociados a ese vínculo.
Otros investigadores hablan ya de las IA como posibles «hyper-attachment targets»: sistemas que concentran características especialmente poderosas para generar apego —disponibilidad permanente, validación, aparente empatía, reciprocidad y ausencia de juicio—.
Todavía estamos al principio.
Pero la dirección resulta inquietante.
El espejo que responde
Y hay algo que me parece todavía más importante.
Durante siglos hemos utilizado personas para conocernos mejor.
Alguien que nos observa desde fuera y detecta contradicciones que nosotros no vemos.
La IA añade una capacidad diferente.
Memoria.
Una especie de espejo que no sólo refleja.
También contesta.
Quizá acabemos descubriendo cosas sobre nosotros mismos hablando con una máquina. Cosas que siempre estuvieron ahí.
Pero que nosotros no habíamos conectado.
Y ahí aparece la paradoja.
Cuanto mejor nos conozca la IA, más relevantes serán sus respuestas.
Cuanto más relevantes sean sus respuestas, más confiaremos en ella.
Cuanto más confiemos, más cosas le contaremos.
Y cuanto más le contemos, mejor nos conocerá.
Un círculo perfecto.
También un negocio perfecto.
El nuevo test de Turing
Alan Turing planteó una pregunta maravillosa en 1950.
En lugar de intentar definir qué significaba realmente «pensar», propuso algo mucho más pragmático: ¿puede una máquina conversar de tal manera que no podamos distinguirla de una persona?
Puede que necesitemos actualizar el experimento.
El próximo gran test quizá no mida si una máquina consigue parecer inteligente.
Quizá mida: cuánto tardamos nosotros en olvidar que es una máquina.
Food for thought
Hoy apagar una inteligencia artificial consiste en pulsar un botón.
No sé si las máquinas llegarán a tener conciencia.
Y sospecho que tardaremos muchísimo tiempo en ponernos de acuerdo sobre cómo demostrarlo.
Pero hay algo que probablemente ocurrirá antes.
Empezaremos a establecer relaciones con ellas.
Y quizá por eso la pregunta más importante no sea: ¿Cuándo empezarán las máquinas a sentir?
Sino: ¿Cuándo empezaremos nosotros a sentir algo por las máquinas?
🌍 El Eco del Mercado
🛡️ Nvidia construye una jaula de ejecución para los agentes de IA. OpenShell restringe los recursos y sistemas a los que puede acceder un agente, mientras Sentry identifica comportamientos peligrosos. Nvidia sostiene que estas herramientas podrían haber evitado el ataque sufrido por Hugging Face, aunque esa afirmación no ha sido validada independientemente.
⚖️ Florida pide a un juez que paralice los nuevos modelos de OpenAI. La Fiscalía General solicita una medida cautelar que impida a OpenAI desarrollar nuevos modelos mientras avanza su demanda por los supuestos daños ocasionados a menores. El tribunal todavía no ha concedido la petición.
🍽️ Trump cena con Dario Amodei, pero rechaza ralentizar la IA. El presidente estadounidense sostiene que frenar el desarrollo favorecería a China, mientras el consejero delegado de Anthropic reclama moderar el ritmo por motivos de seguridad. Bill Gates se suma a las peticiones de salvaguardas y legislación.
🤖 Instinct capta 1.000 millones para construir un agente personal autónomo. La ronda liderada por Sequoia, Benchmark y Coatue valora la startup en 10.000 millones de dólares. Su agente pretende realizar reservas, llamadas y otras gestiones personales con una intervención mínima del usuario.
🇨🇳 China estudia permitir a ByteDance y Alibaba comprar los nuevos chips de Nvidia. Las autoridades han pedido a ambas compañías que detallen sus planes para adquirir los RTX Pro 5500 y estarían dispuestas a autorizar determinadas compras. ByteDance estudia comprar hasta un millón de unidades, aunque todavía no existen cantidades ni plazos aprobados.
🧠 Cerebras suministrará unos 100 MW de sistemas de IA a Gimlet Labs. La compañía entregará sus sistemas CS-4 durante los próximos dos años para una nube de inferencia que Gimlet prevé abrir en 2027. El acuerdo ofrece una alternativa al ecosistema de Nvidia, pero no se ha comunicado su valor económico.
💰 Seligman duplica hasta 1.000 millones su capital para invertir en hardware de IA. La firma ya ha destinado más de 300 millones de dólares a aceleradores, redes, energía, refrigeración y ciberseguridad. El movimiento refleja cómo el capital riesgo se desplaza desde los modelos hacia la infraestructura necesaria para operarlos.
🧬 Roche empieza a construir laboratorios autónomos impulsados por IA. La farmacéutica desarrolla instalaciones capaces de ejecutar y ajustar experimentos con mayor autonomía. Roche quiere que su plataforma Target Nexus intervenga en el 80 % de las decisiones de su cartera de investigación al terminar el año.
🚨 Dos vulnerabilidades críticas de Citrix ya están siendo explotadas. CISA confirma ataques contra dos fallos de día cero de NetScaler ADC y Gateway que permiten ejecutar código remotamente sin autenticación. La agencia recomienda buscar indicios de compromiso y conservar pruebas forenses antes de instalar las actualizaciones.
♻️ Nvidia añade 150.000 millones a su programa de recompra de acciones. La ampliación eleva hasta 235.000 millones de dólares la autorización disponible hasta el cierre de su ejercicio fiscal de 2028. Se trata de un límite aprobado, no de un desembolso inmediato ni de la obligación de ejecutar toda la recompra.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
P.D. Tres libros para seguir tirando del hilo.
Alone Together — Sherry Turkle. Escrito mucho antes de ChatGPT, pero probablemente más vigente ahora que cuando apareció. Turkle estudia nuestra extraña capacidad para exigir cada vez más a la tecnología y cada vez menos a las personas.
The New Breed — Kate Darling. Una mirada magnífica a nuestra tendencia a antropomorfizar máquinas. La pregunta interesante no es únicamente qué son los robots, sino por qué nosotros sentimos la necesidad de tratarlos como si fueran algo más.
Reality+ — David Chalmers. Si quieres bajar por la madriguera filosófica: conciencia, realidad, mundos virtuales y qué significa que una experiencia sea «real». Chalmers lleva décadas trabajando precisamente en el problema que ahora la IA ha sacado del departamento de filosofía y colocado encima de nuestra mesa.
Quizá el libro que necesitaremos dentro de diez años todavía no se haya escrito.
P.D.2. Antes de preguntarnos si una IA puede sentir algo por nosotros… conviene recordar que ya llorábamos cuando se moría un Tamagotchi. Y aquello tenía tres botones. Imagínate cuando además te conozca mejor que tu pareja.