La advertencia de Ramon López de Mántaras, pionero español de la inteligencia artificial, desplaza el debate desde un futuro de máquinas sublevadas hacia daños que ya tienen actores identificables. El físico e informático sostiene que los sistemas actuales no poseen voluntad propia ni pueden convertirse en agentes morales: detrás de un ciberataque, una falsificación o una decisión discriminatoria hay personas y organizaciones que los emplean. Su tesis no niega la capacidad técnica de la IA; cuestiona que el temor a una hipotética rebelión sea la forma más útil de medir sus peligros.
López de Mántaras, nacido en Sant Vicenç de Castellet en 1952, defendió su tesis doctoral sobre inteligencia artificial en 1977 y fundó el Institut d’Investigació en Intel·ligència Artificial del CSIC, que dirigió antes de convertirse en profesor emérito. Desde esa trayectoria, critica tanto la carrera por modelos cada vez mayores como el discurso apocalíptico de algunos promotores. A su juicio, presentar una inteligencia artificial general como inminente puede atraer capital y atención, mientras aparta el foco de abusos concretos y de la responsabilidad de quienes los permiten.
El debate sobre la rebelión oculta riesgos presentes
La lista de daños que señala el investigador es conocida, aunque no por ello menor: armas letales autónomas, manipulación informativa, suplantación de identidad, sesgos, discriminación, vigilancia masiva y explotación laboral. No son amenazas que dependan de que una máquina “decida” actuar. Se producen cuando empresas, gobiernos o individuos incorporan sistemas automatizados a prácticas que ya concentran poder, reducen controles o perjudican a determinados grupos.
La distinción importa para la rendición de cuentas. Si un sistema genera contenidos falsos a gran escala, no basta con atribuir el resultado a una tecnología supuestamente autónoma. Hay que examinar quién la diseñó, quién la desplegó, qué salvaguardas incorporó y quién se benefició de su uso. En el caso de un ciberataque, la herramienta puede facilitar o acelerar la operación, pero no borra la responsabilidad de sus autores. Tratar estos hechos como simples “incidencias” también puede diluir obligaciones jurídicas y empresariales.
El encuadre apocalíptico ofrece, además, una salida retórica conveniente: cuanto más se habla de una IA futura e incontrolable, menos espacio queda para discutir decisiones presentes y corregibles. La autonomía aparente de los sistemas puede convertirse en una excusa para presentar como inevitables daños que dependen de elecciones humanas. El señalamiento del investigador es sólido en ese punto, aunque no excluye que los riesgos aumenten cuando se delegan funciones críticas sin supervisión suficiente.
Una apuesta de inversión con promesas difíciles de medir
La entrevista contrapone la expectativa financiera con resultados económicos todavía discutidos. Según los datos de 2025 citados por López de Mántaras, la inversión estadounidense en IA alcanzó los 211.000 millones de dólares, cien mil millones más que en 2024, mientras que el impacto agregado sobre la economía de Estados Unidos habría sido nulo. Esa comparación no demuestra por sí sola que la tecnología carezca de valor: parte de la inversión puede tardar en traducirse en productividad, y los beneficios pueden concentrarse en sectores o empresas sin reflejarse de inmediato en las estadísticas generales. Sí obliga a preguntar qué resultados justifican el volumen de capital comprometido.
El investigador invoca el teorema de Hulten y las estimaciones del Nobel de Economía de 2024, Daron Acemoglu. Según los cálculos que presenta, la IA podría automatizar aproximadamente el 4,6% de las tareas laborales durante la próxima década y elevar la productividad total en torno al 0,7% en ese periodo. Es una previsión muy inferior al aumento del 7% atribuido a algunas firmas financieras, entre ellas Goldman Sachs. Las cifras no son directamente comparables sin atender a sus supuestos y métodos, pero la distancia refleja una disputa central: cuánto del potencial técnico se convertirá realmente en crecimiento amplio.
La productividad no depende solo de que una herramienta complete tareas. También exige reorganizar procesos, formar a trabajadores, integrar sistemas y asegurar que los ahorros no se pierdan en costes de cómputo, errores o supervisión. Por eso, una mejora visible en una actividad concreta puede no trasladarse a la economía en conjunto. Para una pequeña empresa, un modelo puede abaratar una tarea administrativa; para el mercado laboral, el efecto neto dependerá de qué empleos desaparezcan, cuáles cambien y quién controle las ganancias.
Más parámetros no garantizan más valor
López de Mántaras considera que el escalado de modelos generativos se acerca a rendimientos decrecientes: obtener mejoras marginales exigiría multiplicar el tamaño y el coste de los sistemas. A ese gasto se suman el consumo energético y el impacto ambiental. Su crítica no es solo técnica. Si el coste de entrenar y operar los modelos crece más rápido que su utilidad, las ventajas tenderán a concentrarse en compañías con acceso a grandes cantidades de capital, datos e infraestructura. El resultado puede ser menos competencia y más dependencia de proveedores dominantes.
De ahí su defensa de sistemas especializados, diseñados para tareas delimitadas. Esa vía podría facilitar la evaluación, acotar errores y hacer más transparente quién responde por cada decisión. También tiene límites: un sistema específico puede fallar cuando cambian las condiciones, y la suma de muchas herramientas especializadas puede crear infraestructuras complejas que nadie supervise de extremo a extremo. La especialización reduce algunos riesgos, pero no sustituye la gobernanza, las pruebas ni el control humano significativo.
Las posiciones enfrentadas responden a incentivos distintos. Los grandes laboratorios y sus inversores buscan justificar inversiones de enorme escala y sostener la expectativa de que la inteligencia general está próxima. Los investigadores críticos piden distinguir capacidad de utilidad económica y alertan de costes sociales y ambientales. Los gobiernos deben equilibrar innovación, seguridad y derechos; las empresas usuarias, demostrar que la automatización mejora resultados sin trasladar daños a empleados o clientes. Y los trabajadores pueden experimentar tanto alivio frente a tareas repetitivas como presión por vigilancia, intensificación del ritmo o sustitución.
La próxima prueba será quién asume los costes
Es probable que la inversión continúe, pero también que el criterio de éxito cambie: menos atención a parámetros y demostraciones llamativas, más a fiabilidad, ahorro verificable y desempeño en contextos reales. Si los rendimientos de los modelos generalistas se moderan, crecerá el interés por herramientas especializadas y por sistemas que combinen automatización con revisión profesional. Esa transición no está garantizada; las promesas de una IA general seguirán siendo comercialmente atractivas incluso cuando sus plazos y beneficios sean inciertos.
El riesgo inmediato es una brecha entre expectativas y resultados. Una empresa que adopte sistemas sin medir su precisión puede automatizar errores; una administración puede convertir una clasificación sesgada en una decisión de alto impacto; una organización puede despedir personal antes de comprobar que la productividad mejora. A escala industrial, la concentración de infraestructura y el coste energético añaden vulnerabilidades: dependencia de pocos proveedores, presión sobre recursos y dificultad para auditar modelos cerrados.
La discusión más productiva no consiste en decidir si las máquinas se rebelarán, sino en fijar límites concretos a los usos, exigir trazabilidad y asignar responsabilidades antes de que se produzcan daños. La IA puede aportar beneficios reales en tareas acotadas, pero no existe una relación automática entre más potencia y más bienestar. La prueba para el sector será demostrar valor medible sin externalizar los costes sobre la ciudadanía, el empleo y el medioambiente. Ese examen depende, precisamente, de decisiones humanas.
