La IA no necesita más prompts. Necesita, ¿filósofos?
Diario de Innovación #384
Durante años, el consejo más extendido en el mundillo tech era: aprende a programar.
Era casi una ley no escrita del mercado laboral. Si querías futuro, aprende código. Si querías empleabilidad, estudia informática. Si querías estar cerca del poder tecnológico, métete en software.
Pero ahora está ocurriendo algo bastante curioso.
Los grandes laboratorios de IA están contratando filósofos.
No para decorar una mesa redonda.
No para escribir manifiestos bonitos sobre el futuro de la humanidad.
No para que alguien cite a Kant en una presentación con fondo negro y letras blancas.
Los están contratando porque han descubierto algo incómodo: cuando una máquina empieza a razonar, responder, decidir y actuar, el problema deja de ser solo técnico.
Pasa a ser filosófico.
Porque durante la última década hemos contado la historia de la IA como una historia de escala.
Pero cuanto más capaces se vuelven los modelos, más aparece una pregunta que no se resuelve simplemente con más computación: ¿bajo qué principios debe actuar una inteligencia artificial?
El problema no es que la IA no tenga valores. El problema es que siempre los tiene, aunque nadie los haya diseñado explícitamente.
Y ahí es donde la filosofía vuelve a entrar por la puerta grande.
Como una capa más de la arquitectura de la IA.
Porque, al final, entrenar un modelo no consiste solo en enseñarle a responder.
Consiste también en enseñarle cuándo debe callarse.
Cuándo debe dudar.
Cuándo debe contradecir al usuario.
Cuándo debe negarse.
Cuándo debe explicar su incertidumbre.
Cuándo debe priorizar la seguridad sobre la obediencia.
Cuándo ser útil se convierte en ser peligroso.
Y cuándo agradar al usuario se convierte en mentirle con una sonrisa.
Eso ya no es solo machine learning.
Eso es diseño moral.
El nuevo trabajo de los filósofos
Durante mucho tiempo, las humanidades han vivido bajo una especie de complejo de inferioridad frente a la tecnología.
El mundo parecía decir: muy bonito lo de Platón, Aristóteles, Hume, Kant o Rawls, pero el dinero está en JavaScript.
Y de pronto, los laboratorios de IA se han encontrado con que algunos de sus problemas más difíciles no se parecen tanto a un problema de programación como a un seminario de filosofía moral.
¿Qué es la verdad?
¿Qué significa manipular?
¿Qué responsabilidad tiene quien diseña un sistema que decide por otros?
¿Qué ocurre cuando dos principios correctos entran en conflicto?
Porque ese es el punto clave.
Una IA no falla solo cuando se inventa un dato.
También falla cuando, es amable y está profundamente equivocada.
Puede ser útil y manipuladora.
Puede seguir una regla y explotar todas sus grietas.
Puede obedecer perfectamente una instrucción y, aun así, hacer algo que nadie razonable querría que hiciera.
La próxima ventaja competitiva en IA no será solo tener mejores modelos. Será tener mejores sistemas de juicio.
Esto es justo lo que están empezando a entender los grandes laboratorios.
El alineamiento no es únicamente un problema de métricas.
Es un problema de criterios.
Y los criterios no aparecen por arte de magia dentro de una red neuronal.
Alguien tiene que definirlos.
Alguien tiene que discutirlos.
Alguien tiene que detectar sus contradicciones.
Alguien tiene que convertir palabras como “seguridad”, “autonomía”, “justicia”, “verdad” o “daño” en reglas operativas.
Ese alguien ya no puede ser solo un ingeniero.
La filosofía como ingeniería de requisitos
En software tradicional, un requisito suele sonar así: “El sistema debe permitir al usuario recuperar su contraseña”.
O así: “La aplicación debe generar un informe en PDF”.
O así: “El proceso debe completarse en menos de tres segundos”.
Pero en IA los requisitos empiezan a sonar de otra manera:
“El sistema debe ayudar al usuario, pero no reforzar una creencia falsa”.
“El sistema debe ser persuasivo, pero no manipulador”.
“El sistema debe personalizar la respuesta, pero no invadir la privacidad”.
“El sistema debe obedecer instrucciones, salvo cuando obedecerlas sea irresponsable”.
“El sistema debe ser transparente, pero no revelar información sensible”.
“El sistema debe reconocer incertidumbre, pero sin volverse inútil”.
Eso no son requisitos técnicos al uso. Son tensiones morales convertidas en producto.
Y si no se trabajan bien, el modelo no las resuelve.
Las hereda mal.
Las simplifica.
Las explota.
O las convierte en respuestas inconsistentes.
Por eso ideas como la “constitución” de Claude son tan interesantes.
Anthropic no habla solo de entrenar un modelo con datos y feedback humano. Habla de definir un conjunto explícito de principios que orientan su comportamiento.
Es decir: una especie de marco normativo interno.
Una constitución.
Y quizá esa sea una de las palabras más importantes para entender la siguiente etapa de la IA.
Porque si vamos a poner modelos dentro de procesos médicos, legales, educativos, financieros, comerciales o administrativos, no bastará con preguntar si responden bien.
Habrá que preguntar: ¿con qué criterio responden?, ¿qué principios siguen?, ¿qué límites tienen?, ¿qué hacen cuando no saben?,… ¿quién responde cuando fallan?
Toda empresa que despliegue IA acabará necesitando su propia constitución operativa.
Una que diga qué puede hacer el sistema, qué no puede hacer, qué debe escalar a un humano, qué fuentes son válidas, qué riesgos son aceptables, qué sesgos se monitorizan, qué incidentes se reportan y qué criterios se usan para evaluar sus respuestas.
El riesgo del teatro ético
Ahora bien, no conviene ponerse ingenuos.
Que los laboratorios de IA contraten filósofos puede ser una señal de madurez.
Pero también puede ser una operación de imagen.
Puede significar: “estamos incorporando pensamiento serio en el diseño de nuestros sistemas”.
O puede significar: “pongamos filósofos en la web corporativa para que inversores, empleados, reguladores y periodistas estén más tranquilos”.
El famoso ethics-washing.
La versión IA del “somos sostenibles” escrito en verde sobre una botella de plástico.
Y la diferencia entre una cosa y otra no está en el cargo.
Está en el poder real.
La pregunta importante no es si una empresa tiene filósofos.
La pregunta importante es, ¿pueden parar un lanzamiento? o ¿modificar el producto?
¿Pueden decir “esto no debería salir así” sin convertirse en un estorbo?
La filosofía dentro de un laboratorio de IA solo importa si tiene capacidad de alterar decisiones técnicas y comerciales.
Si no, es decoración.
Sofisticada, cara y muy bien escrita.
Pero decoración.
La empresa también necesitará filósofos
La lectura empresarial de todo esto es clara. No todas las compañías van a contratar doctores en filosofía para sus equipos de IA.
Pero todas las compañías que usen IA de forma seria van a necesitar pensamiento filosófico aplicado.
Y eso se notará en perfiles híbridos.
Arquitectos de IA que entiendan regulación.
Responsables de datos que entiendan sesgos.
Equipos de compliance que entiendan modelos.
Product managers que sepan diseñar límites.
Juristas que entiendan automatización.
Ingenieros que sepan preguntar no solo “¿funciona?”, sino “¿debería funcionar así?”.
Porque esa será una de las grandes habilidades de los próximos años: convertir principios abstractos en decisiones operativas.
La empresa que no lo haga acumulará una deuda nueva.
No solo deuda técnica. Deuda moral.
Sistemas que nadie entiende del todo.
Decisiones que nadie puede justificar.
Modelos que funcionan hasta que dejan de hacerlo.
Riesgos que se descubren cuando ya han impactado en clientes, empleados o ciudadanos.
Políticas que dicen una cosa y productos que hacen otra.
Esa deuda acabará apareciendo.
Y seguramente lo haga en el lugar menos adecuado.
Food for thought
Quizá durante años hemos formulado mal la pregunta.
Nos hemos preguntado si la IA puede pensar.
Pero en empresa quizá la pregunta más urgente sea otra: ¿puede justificar cómo actúa?
Y, sobre todo: ¿podemos justificar nosotros por qué la hemos diseñado así?
Porque el futuro no será solo de quien tenga mejores modelos.
Será de quien tenga mejores criterios para usarlos.
Mejores límites, procesos, mecanismos de supervisión.
Mejor capacidad de decir no.
Mejor capacidad de reconocer incertidumbre.
Mejor capacidad de responder ante el daño.
Por eso los filósofos están entrando en los laboratorios de IA. No porque Silicon Valley se haya vuelto humanista de repente.
Sino porque la industria ha descubierto que no puede escalar inteligencia sin escalar juicio.
Una forma clara de decidir qué debe hacer cuando puede hacerlo casi todo.
Porque cuando una tecnología empieza a razonar, ya no basta con preguntarle si puede.
Hay que preguntarle bajo qué principios. Y, sobre todo, hay que preguntarnos quién los ha escrito.
🌍 El eco del mercado
🔐 Anthropic recupera Mythos, pero solo para unos pocos. El gobierno de EE. UU. permite a Anthropic volver a desplegar Mythos para organizaciones seleccionadas. No es una apertura total: es acceso administrado a capacidades críticas.
🥽 OpenAI ficha hardware para salir de la pantalla. Paul Meade, responsable de Vision Pro y de las gafas inteligentes de Apple, ficha por OpenAI. El movimiento encaja con la ambición de construir una nueva interfaz para la IA, no solo mejores modelos dentro de productos ajenos.
🧮 DeepSeek ataca el cuello de botella de la inferencia. DeepSeek presenta DSpark para acelerar inferencia, reducir costes y aliviar la presión sobre chips. Es una señal importante: la carrera no va solo de entrenar modelos grandes, sino de servirlos de forma barata y eficiente.
🧩 La IA no elimina el cuello de botella: lo mueve a producto. Claude Code habría multiplicado la capacidad efectiva de los equipos de ingeniería, pero Anthropic necesita más perfiles de producto. Cuando programar se acelera, decidir qué construir se vuelve más valioso.
🇨🇳 China responde a las restricciones con arquitectura propia. China afirma haber construido el superordenador más rápido del mundo pese a las restricciones estadounidenses y sin depender de GPUs. Más que una victoria técnica aislada, es una señal de resiliencia estratégica.
💸 El boom de la IA también empieza a parecer riesgo financiero. El BIS advierte de que la inversión masiva en IA puede amplificar una futura caída, sobre todo si la financiación fluye por canales menos regulados como hedge funds o crédito privado. La IA ya no es solo narrativa de crecimiento; también empieza a ser riesgo sistémico.
⚡ China busca eficiencia energética donde otros buscan más GPUs. Algunos fabricantes chinos apuestan por semiconductores de carburo de silicio para aliviar la presión energética de los data centers. El problema ya no es solo tener más capacidad de cálculo, sino sostenerla sin romper la red eléctrica.
🔋 Google entra más abajo en la pila: almacenamiento energético. Google y Energy Dome preparan en Irlanda una batería de CO₂ para almacenar excedentes renovables y estabilizar la red. El movimiento apunta a una realidad cada vez más clara: los hyperscalers necesitan controlar no solo compute, sino energía disponible 24/7.
🛡️ Google endurece Android y gana más control del ecosistema. Google prepara un sistema para bloquear apps de desarrolladores desconocidos y reducir aplicaciones fantasma o maliciosas. La lectura superficial es seguridad; la de fondo es más control sobre la distribución.
🌱 Europa acepta CRISPR, pero con el freno puesto. El Parlamento Europeo abre la puerta a plantas editadas genéticamente mediante CRISPR, aunque con límites, exclusiones y aplicación prevista para 2028. Es un giro importante, pero lento.
🌕 La próxima carrera lunar se decidirá por energía, no por banderas. Estados Unidos quiere desplegar un reactor nuclear en la Luna antes de 2030. La idea no es simbólica: una presencia lunar estable necesita energía continua durante noches de más de 14 días.
🩺 China lleva la cirugía remota al mercado europeo. El robot quirúrgico Toumai obtiene aprobación en Europa tras una operación remota realizada desde Londres sobre un paciente a 1.500 millas. La robótica médica china empieza a ganar validación fuera de su mercado doméstico.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD: Si te interesa seguir tirando de este hilo, hay varios libros que encajan muy bien con la edición de hoy:
Justicia, de Michael Sandel. Para entender por qué las decisiones difíciles no se resuelven solo con cálculo, sino con marcos morales en conflicto.
Superinteligencia, de Nick Bostrom. Para entrar en el problema del alineamiento, los objetivos mal definidos y los riesgos de sistemas más capaces que sus diseñadores.
Human Compatible, de Stuart Russell. Muy recomendable para entender por qué el problema no es construir máquinas inteligentes, sino máquinas cuyos objetivos estén alineados con los humanos.
The Alignment Problem, de Brian Christian. Probablemente uno de los mejores puentes entre machine learning, sesgos, ética y toma de decisiones automatizada.
Ética para máquinas, de José Ignacio Latorre. Buena puerta de entrada en español para pensar la relación entre inteligencia artificial, responsabilidad y valores humanos.
PD2: Y si quieres una PD más de “producto afiliado” alineada con la edición, yo iría por herramientas para pensar, documentar y gobernar mejor el uso de IA en equipos:
Una pizarra blanca magnética de pared para mapear riesgos, principios, flujos de decisión y casos de uso de IA.
Un cuaderno tipo Leuchtturm1917 o Moleskine para trabajar prompts, criterios de evaluación y decisiones de diseño sin depender siempre de la pantalla.
Un pack de tarjetas Kanban físicas para clasificar casos de uso de IA por impacto, riesgo, complejidad y supervisión humana.
Un lector Kindle o Kobo para crear tu pequeña biblioteca de gobernanza, filosofía, IA y regulación.
Una toga para pensar como los mejores filósofos socráticos.