Diario de Innovación #38
La inteligencia artificial y el problema del control
Podríamos afirmar que el mundo en el que vivimos es ya, uno en el que las máquinas son más inteligentes que nosotros. Un mundo donde nuestras creaciones tecnológicas no solo nos superan, sino que también toman decisiones mejores que nosotros, que a priori llegará un momento que no entendamos y que podrían cambiarlo todo.
Ahora, detente un momento. Pregúntate: ¿qué pasaría si perdiéramos el control?
Hoy exploraremos Human Compatible, el libro del renombrado experto en inteligencia artificial Stuart Russell.
Aunque podríamos decir que este no es solo un libro. Es una advertencia. Una guía para entender cómo podemos —y debemos— asegurarnos de que la inteligencia artificial (IA) siga sirviendo a los intereses de la humanidad, antes de que sea demasiado tarde.
Suscríbete para leer esta y otras muchas historias sobre innovación, tecnología y negocios.
Toda promesa, siempre conlleva contrapartidas, y en este caso, ¿qué peligros hay detrás de la inteligencia artificial?
La inteligencia artificial. Suena a ciencia ficción, algo futurista, ¿no? Pero ya está aquí. Desde los asistentes virtuales en nuestros teléfonos hasta los algoritmos que seleccionan qué verás esta noche en tus redes sociales.
Es impresionante, pero también es aterrador.
Russell nos recuerda que, aunque los supercomputadores modernos procesan datos a velocidades inimaginables, su capacidad de entender el mundo —como nosotros lo hacemos— sigue siendo limitada.
El verdadero reto está en el software: ¿cómo lograr que las máquinas comprendan no solo lo que decimos, sino lo que realmente queremos decir?
Piensa en esto: le dices a tu asistente virtual, “Llámame una ambulancia”. Y responde… “De acuerdo, te llamaré Ambulancia”. Divertido, sí. Pero también inquietante.
Porque la verdadera inteligencia artificial no solo obedece comandos, sino que entiende el contexto, las emociones, y lo que realmente importa. Y ahí es donde estamos muy lejos.
Russell plantea una duda: ¿Estamos diseñando la inteligencia artificial de forma adecuada?
¿Sabes cuál es según Russell el mayor error que estamos cometiendo? Estamos enseñando a las máquinas a ser inteligentes… pero no a ser sabias.
El problema está en lo que Russell llama el “efecto Rey Midas”. Le damos objetivos a la IA, pero no los definimos bien. Y eso puede llevar a consecuencias catastróficas.
Por ejemplo, pedirle a una IA que cure el cáncer podría hacer que lo consiga… experimentando en humanos sin restricción y control alguno, dispuesto a sacrificar vidas en aras de lograr el objetivo encomendado.
Incluso una tarea aparentemente simple, como “haz café”, podría motivarla a evitar ser apagada para completar su misión.
Y es que cualquier objetivo mal definido puede ser peligroso. Diseñar máquinas inteligentes no es suficiente; necesitamos asegurarnos de que sean seguras y controlables.
¿Y si decidimos cambiar las reglas del juego? Pues bien,Russell propone algo radical: no diseñemos máquinas inteligentes. Diseñemos máquinas beneficiosas.
¿Y cómo hacemos eso? Según él, hay tres principios clave a tener en cuenta:
Altruismo: Las máquinas deben priorizar las preferencias humanas por encima de las propias.
Humildad: Las máquinas no deben asumir que lo saben todo. Deben aprender, preguntar y adaptarse.
Aprendizaje continuo: Las máquinas deben basarse en nuestro comportamiento, mejorando con el tiempo y ajustándose a nuestras necesidades.
Imagina un mundo donde las máquinas no solo entienden lo que queremos, sino que lo hacen siempre con cautela, pidiendo permiso y respetando nuestros límites.
Eso es inteligencia artificial beneficiosa.
Si te gusta lo que estas leyendo, no olvides que también tienes disponible el podcast de Innovation by Default 💡. Suscríbete aquí 👇
Pero dejemos los peligros un momento de lado, y pensemos en los beneficios que esta tecnología nos podría proporcionar.
La IA tiene el poder de transformar nuestras vidas para bien:
En salud, podría diagnosticar enfermedades con precisión.
En derecho, proporcionarnos acceso a justicia rápida y asequible.
En ciencia, leer todo lo que la humanidad ha escrito… entre el desayuno y el almuerzo.
También podría abordar desafíos globales como el cambio climático, mediante modelos predictivos basados en datos satelitales.
Pero estos beneficios vienen con riesgos de privacidad y control que no debemos subestimar.
Y es que para que la IA entienda mejor el mundo, necesita datos, muchos datos, inclusive algunos que podrían plantear un futuro bajo vigilancia constante.
Imagina que cada movimiento que haces, cada palabra que dices… estuviese monitorizado por una IA.
Esto podría desembocar en una sociedad donde la privacidad sea cosa del pasado.
Por no hablar de la aplicación de esta tecnología al sector militar, un sector gobernado con armas autónomas: drones programados para localizar y eliminar objetivos. Estos robots, conocidos como Slaughterbots, ya existen. Funcionan como un enjambre, buscando y atacando sin intervención humana.
Por no hablar de la inteligencia artificial aplicada al campo del espionaje ¿Qué hay de las noticias falsas? La IA no solo podrá crearlas, sino distribuirlas de manera tan precisa que sería casi imposible distinguir la realidad de la mentira.
Y, es que deberíamos plantearnos si estamos jugando con fuego.
En otras ediciones de la newsletter ya hemos hablado de la automatización: ¿libertad o dependencia?
A priori suena idílico, las máquinas haciendo todo el trabajo por nosotros.
Pero hay un gran dilema detrás de este futuro idílico: si los robots hacen nuestro trabajo, ¿qué haremos nosotros?
Una posible solución sería la renta básica universal (RBU), un sistema que garantizaría a todas las personas un ingreso fijo. Eso nos liberaría para dedicarnos a lo que realmente nos apasiona.
Pero hay una trampa.
Si dejamos que las máquinas hagan todo por nosotros, ¿qué pasará con nuestras habilidades? ¿Con nuestra identidad como seres humanos? Podríamos convertirnos en una especie dependiente, incapaz de sobrevivir sin las máquinas que, supuestamente, nos sirven.
Las premisas de Russell están claras, parece que según él, el diseño actual de la IA está fundamentado en un error: buscamos que sea inteligente, pero no garantizamos que sea beneficiosa para la sociedad.
Para aprovechar todo el potencial de la IA sin poner en riesgo nuestra autonomía, debemos garantizar que su diseño se establece sobre principios sólidos que respeten y estén alineados con los valores humanos.
La llamada a la acción de Stuart Russell es clara: la forma en que manejemos esta tecnología definirá el futuro de nuestra civilización.
¿Podremos controlar una inteligencia superior (AGI) o nos convertiremos en sujetos pasivos de sus acciones?
La IA puede ser nuestra mayor aliada o nuestra mayor amenaza.
El tiempo para tomar decisiones responsables es ahora.
Gracias por acompañarme en este nuevo experimento, ¡y te espero mañana en el Diario de Innovación de Innovation by Default 💡!