Desde los albores de la humanidad, superarnos a nosotros mismos siempre ha sido un instinto básico en nuestra especie. Una característica innata que nos ha hecho sobrevivir y adaptarnos a lo largo de los siglos. Buscamos ser más fuertes, más rápidos, pero sobre todo, más inteligentes.
En las últimas décadas, la Inteligencia Artificial ha pasado de ser una idea futurista reservada a las historias y películas de ciencia ficción, para convertirse en el proyecto más grande y ambicioso en el que jamás nos hayamos embarcado. Un proyecto que, a cada minuto que pasa, a cada segundo, sigue avanzando rápida e inexorablemente, y no cabe duda de que ya está modificando nuestra relación con el conocimiento y el trabajo.
Ahora que hemos hecho realidad mucho de lo que en el pasado solo nos atrevíamos a soñar o imaginar, la gran cuestión que debemos plantearnos es: ¿hacia dónde se debería dirigir el desarrollo de la ya omnipresente IA? ¿Cuál ha de ser su objetivo final? ¿Queremos una IA que nos ayude a hacer más y mejor, una compañera, una asistente en nuestro día a día? ¿O preferimos la comodidad de una inteligencia que pueda terminar haciendo todo por nosotros hasta el punto de reemplazarnos y sustituirnos completamente?
Y lo más importante, ¿qué riesgos conllevaría concederle tal grado de autonomía?
Diferentes tipos de IA
Podemos clasificar la Inteligencia Artificial en tres niveles diferenciados según el alcance de sus capacidades:
IA especializada o específica
Diseñada para tareas concretas. Puede superar ampliamente a los humanos en determinados ámbitos, pero tiene una capacidad limitada en otros.
Inteligencia Artificial General (IAG)
Capaz de aprender y desenvolverse de forma flexible en numerosos ámbitos o dominios, sin tener que ser programada específicamente para cada tarea.
Superinteligencia
No solo alcanza el mismo nivel de la inteligencia humana, sino que lo supera con creces en cualquier área intelectual. Es en esta última donde se centra el mayor dilema al convertir el debate tecnológico en un problema de poder y control.
Existen razones de peso para querer desarrollar una IA cada vez más capaz. Investigadores como Demis Hassabis, cofundador de DeepMind, defienden su enorme potencial para acelerar la investigación científica y resolver problemas que actualmente se encuentran fuera de nuestro alcance. Una inteligencia artificial extraordinariamente capaz podría convertirse en un multiplicador de la inteligencia humana. Si nuestra inteligencia tiene límites, ¿por qué no utilizar otra que nos ayude a superarlos?
El problema comienza cuando esa nueva inteligencia deja de ser solamente una herramienta de ayuda.
El problema del control
Investigadores como Geoffrey Hinton, Yoshua Bengio y Stuart Russell ya han advertido en distintas ocasiones sobre los riesgos asociados al desarrollo de sistemas cada vez más capaces. La mayor preocupación es que podemos estar desarrollando sistemas cuyas capacidades aumentan más rápido que nuestra propia capacidad para comprenderlos y controlarlos.
El International AI Safety Report 2026 señala que algunos de estos riesgos ya se están manifestando, mientras que otros todavía son una incógnita, pero tienen el potencial suficiente para ser muy graves. Uso malicioso, fallos impredecibles, manipulación, fraude, riesgos de ciberseguridad… son solo algunos de los inconvenientes que suponen estos sistemas tan tecnológicamente avanzados.
Por ejemplo, imaginemos que damos a una IA una instrucción aparentemente sencilla: «Maximiza la producción de energía.»
Un sistema con la suficiente autonomía podría descubrir estrategias para resolver este problema que nosotros nunca jamás habríamos contemplado. También puede ser que ya hayamos valorado dichas estrategias pero las hayamos descartado por plantear inconvenientes y riesgos en otros sentidos que sin duda superan a los beneficios. Ahora bien, ¿qué ocurre si esta IA llega a la conclusión de que necesita más recursos informáticos para conseguir su objetivo? ¿y si considera que determinadas restricciones humanas dificultan su misión? El problema no sería que la IA tuviera malas intenciones per se, sino que su objetivo (el que le hemos dado con nuestra instrucción) y nuestros intereses no van de la mano. Este es uno de los grandes problemas de seguridad que plantea una IA totalmente autónoma: el alineamiento.
Con sistemas relativamente limitados podemos detectar a tiempo estos posibles errores y malentendidos, corregirlos y reconducir las respuestas del sistema hacia una solución más viable. Pero cuanta más autonomía y capacidad le concedamos a un sistema, más difícil será anticiparnos a sus decisiones y a las posibles consecuencias que acarrearían.
Al pensar en los peligros de una superinteligencia es fácil dejarnos llevarnos por el alarmismo, las teorías de la conspiración y las ideas apocalípticas. Solemos plantearnos un escenario en el que las máquinas se vuelvan contra nosotros y nos eliminen de la faz de la Tierra al considerarnos innecesarios o, incluso, un estorbo a sus propios intereses. Sería el fin del mundo tal y como lo conocemos, el apocalipsis universal. Pero no es necesario ser tan pesimistas, ni tampoco caer en la aversión al pesimismo (un término interesante al que pienso dedicar una entrada de blog más adelante).
Además de los problemas de control y alineamiento ya mencionados, existen otros riesgos y peligros cuyas consecuencias ya está sufriendo, en mayor o menor medida, la sociedad de hoy en día:
- La concentración de poder, al quedar el desarrollo y control de los sistemas más avanzados en manos de unas pocas empresas y gobiernos
- La transformación y sustitución de determinados trabajos, especialmente aquellos que pueden automatizarse con relativa facilidad
- El aumento de las desigualdades, tanto entre trabajadores como entre países con diferente capacidad para adoptar estas nuevas tecnologías
- Una dependencia tecnológica cada vez mayor, tanto en el ámbito profesional como en nuestra vida cotidiana
Pero existe otro riesgo que me parece especialmente preocupante…
El riesgo de perder nuestras propias capacidades
Nuestra mente es un músculo. Al igual que ocurre con el resto de los músculos, si dejamos de utilizarla, de entrenarla y de ejercitarla, se deteriora paulatinamente.
En nuestro día a día estamos usando la IA para escribir textos, generar imágenes, investigar por nosotros, crear por nosotros… Todo en aras de perseguir la versión más eficiente de nosotros mismos, la más rápida, la más productiva. Una versión que en cierto modo nos están “forzando” a perseguir desde el mundo laboral para conservar nuestros puestos de trabajo, porque si gracias a la IA una persona puede realizar en dos horas un trabajo que antes necesitaba seis, pronto se le exigirá que saque adelante el triple de trabajo. La tecnología que en un principio nos presentaron como una herramienta para ahorrar tiempo y liberarnos de trabajo, termina elevando la cantidad de trabajo que se espera de nosotros.
Al mismo ritmo que perseguimos esa versión tan perfecta y a veces irreal de nosotros mismos, dejamos de ejercitar nuestra mente con estas tareas que estamos delegando en la IA. Esta dependencia tecnológica continuada, a largo plazo, hará que perdamos la habilidad de hacer todas estas cosas nosotros mismos, de defendernos solo con nuestro ingenio e intelecto ante los problemas y las tareas más cotidianos.
Quizá uno de nuestros mayores errores haya sido confundir progreso con eficiencia. Hemos convertido la rapidez en una virtud absoluta. Si antes necesitábamos una hora y ahora, con ayuda de la IA, nos bastan cinco minutos, asumimos automáticamente que hemos progresado. Pero, ¿es un progreso real, o solo un espejismo? Si tuviésemos que volver a hacer esa misma tarea, esta vez sin la IA, ¿cuánto tiempo nos llevaría? ¿cinco minutos, una hora, o tal vez un poco más por la falta de costumbre y entrenamiento?
Aprender a escribir no consiste únicamente en producir un texto. Programar no consiste únicamente en obtener código que funciona. Diseñar no consiste únicamente en generar una imagen. Investigar no consiste únicamente en obtener una respuesta. El proceso también importa, y puede resultar mucho más enriquecedor de lo que pensamos. Porque mientras hacemos esas cosas, estamos entrenando y desarrollando nuestras capacidades: aprendemos a estructurar ideas, detectar errores, resolver problemas, tomar decisiones, y enfrentarnos a la frustración de que las cosas no salgan a la primera, rápido y sin esfuerzo. Al eliminar completamente este proceso, sí que podemos ganar eficiencia a corto plazo, pero a largo plazo nuestras mentes pierden en fuerza, agilidad y destreza. Nos volvemos dependientes de una inteligencia externa como es la IA.
Por eso creo que debemos distinguir entre utilizar la IA y delegar en la IA. Utilizarla significa pedirle ayuda cuando la necesitamos en momentos puntuales y para tareas concretas. Delegar significa dejar progresivamente de desarrollar la habilidad necesaria para hacer algo por nosotros mismos. La diferencia puede parecer pequeña, pero sus consecuencias son enormes.
Dejamos de esforzarnos por seguir siendo inteligentes. Perdemos esa fuerza de voluntad que nos empujaba a hacer cosas, a descubrir, a aprender de nuestras experiencias, porque si una IA es mucho más capaz que nosotros, ¿para qué esforzarnos en cultivar nuestras capacidades?
¿Qué camino deberíamos seguir?
Por razones obvias, detener completamente los avances en IA es algo imposible. Además, sería muy inconsciente por nuestra parte ignorar el enorme potencial de los beneficios y mejoras que puede traer a la sociedad futura. Pero construir una inteligencia superior a la humana simplemente porque técnicamente podemos hacerlo, suena un poco como si quisiésemos jugar a ser Dios. Un juego bastante arriesgado en el que podemos ganar, pero también podemos perder (y mucho).
Existe otra posibilidad que plantea menos riesgos: avanzar, pero con contención.
Seguir desarrollando sistemas cada vez más capaces y potentes, pero sin que ello suponga perder en mecanismos de seguridad y supervisión por nuestra parte. Debemos mantenernos presentes para cuando haya que tomar decisiones críticas o que impliquen una valoración más exhaustiva de los posibles riesgos. Cada nueva tecnología, herramienta y desarrollo debe ser evaluado concienzudamente, analizando de forma crítica y objetiva todos sus pros y sus contras, antes de desplegarlo. Pero, sobre todo, es de vital importancia evitar que nuestra capacidad para crear tecnología avance mucho más rápido que nuestra capacidad para entenderla y controlarla.
No deberíamos tener miedo de la inteligencia artificial, siempre que nosotros nos mantengamos por encima en la jerarquía y seamos plenamente conscientes de como va a actuar ante una situación determinada. Habrá fallos, habrá riesgos, y por eso también tiene que haber mecanismos de seguridad y contención que nos permitan parar la maquinaria si fuese necesario.
La IA puede ser una extraordinaria compañera intelectual: puede ayudarnos a pensar, señalarnos errores, enseñarnos, proponernos alternativas y explorar ideas que, de otro modo, nunca habríamos considerado. Pero nunca jamás deberíamos dejar en sus manos tomar la decisión final.
Podemos construir máquinas que hagan cada vez más cosas por nosotros, o podemos construir herramientas que nos permitan hacer más cosas nosotros mismos. Porque existe una diferencia enorme entre decir: «Haz este trabajo por mí» y «Ayúdame a hacerlo mejor». Lo primero puede convertirnos en seres más eficientes, pero también más dependientes. Lo segundo, una inteligencia artificial que nos ayuda a pensar y trabajar mejor, puede hacer algo mucho más valioso: convertirnos en seres más capaces.
Y quizá antes de crear una inteligencia superior a la nuestra deberíamos responder a una última pregunta:
Si una máquina pudiera hacerlo todo mejor que nosotros, ¿qué nos queda por hacer? ¿cuál sería nuestro propósito en este mundo?