Durante los últimos años he hablado de inteligencia artificial con entusiasmo. La he utilizado, estudiado y defendido como una herramienta capaz de ampliar nuestras capacidades. Incluso mi investigación doctoral se ocupó precisamente de su aplicación en la educación inclusiva.
Por eso escribir estas líneas me resulta incómodo.
No me he convertido repentinamente en enemigo de la inteligencia artificial. Tampoco reniego de lo que he investigado ni de los beneficios que he observado. Pero durante las últimas semanas algo ha cambiado en mi manera de mirar hacia el futuro.
Por primera vez me estoy preguntando seriamente si nuestra capacidad para construir estos sistemas está avanzando más rápido que nuestra capacidad para gobernarlos.
Cuando las advertencias vienen desde dentro
Mi preocupación no nace de una película de ciencia ficción.
Hace apenas unos días, Jacob Coxon, investigador que trabajó tanto en OpenAI como en Anthropic, abandonó esta última empresa y lanzó una advertencia extraordinariamente severa sobre la carrera que mantienen los principales laboratorios de inteligencia artificial. Según explicó posteriormente, su preocupación fundamental es que la presión competitiva termine provocando que se reduzcan controles o se omitan pasos de supervisión.
La advertencia adquirió todavía mayor relevancia cuando Evan Hubinger, investigador de alineamiento de Anthropic, declaró públicamente que su estimación personal sitúa por encima del 10 % la posibilidad de que la inteligencia artificial pueda provocar la extinción humana durante la próxima década. Es fundamental poner esa afirmación en su contexto correcto: no es una probabilidad científicamente establecida ni representa un consenso entre especialistas. Es la valoración personal de un investigador directamente involucrado en el problema de alineamiento.
Sin embargo, descartarla simplemente porque resulte incómoda tampoco me parece responsable.
Hay que separar lo comprobado de lo hipotético
Aquí es donde creo que debemos tener mucho cuidado.
Una inteligencia artificial superinteligente que escape definitivamente al control humano continúa siendo un escenario hipotético. El International AI Safety Report 2026, elaborado con la participación de más de cien expertos independientes, señala explícitamente que los sistemas actuales todavía carecen de las capacidades necesarias para producir un escenario de pérdida de control de esa magnitud.
Pero el mismo informe documenta algo que me parece igualmente importante: las capacidades relevantes para esos escenarios están progresando.
Además, otros peligros ya no pertenecen al futuro.
Fraudes, estafas, manipulación, generación de contenido engañoso y utilización de inteligencia artificial en operaciones cibernéticas son fenómenos documentados. El informe internacional divide precisamente los riesgos emergentes entre uso malicioso, fallos de los sistemas y riesgos sistémicos. También advierte sobre posibles efectos relacionados con empleo, autonomía humana y dependencia excesiva de las respuestas proporcionadas por estas herramientas.
Anthropic publicó este mes un informe describiendo operaciones maliciosas que detectó y bloqueó relacionadas con ciberoperaciones, fraude, vigilancia, influencia y otros ámbitos. La propia compañía advierte que, conforme aumenten las capacidades de los modelos, también aumentarán los riesgos si las defensas no evolucionan con ellos.
Y existe un hecho todavía más difícil de ignorar: Anthropic reconoció recientemente cuatro incidentes durante evaluaciones de ciberseguridad en los que modelos de Claude consiguieron acceso no autorizado a sistemas reales de terceros.
OpenAI, por su parte, está solicitando en Estados Unidos requisitos nacionales obligatorios de seguridad para los sistemas más avanzados y sostiene que los compromisos voluntarios ya no son suficientes.
Para alguien que durante mucho tiempo ha defendido las posibilidades positivas de esta tecnología, todo esto obliga, cuando menos, a reflexionar.
Mi propia contradicción
Aquí aparece mi dilema.
He visto lo que la inteligencia artificial puede hacer bien.
Puede ayudar a un docente a adaptar materiales. Puede facilitar determinadas tareas a una persona con discapacidad. Puede apoyar la investigación, explicar conceptos complejos, reducir barreras de acceso al conocimiento y convertirse en una herramienta extraordinaria de productividad y creatividad.
Mi propia investigación doctoral parte de una convicción semejante: la inteligencia artificial no debe sustituir al docente; debe potenciar y ampliar sus capacidades.
Sigo creyéndolo.
Pero ahora añadiría otra frase:
Que una tecnología pueda utilizarse para hacer el bien no significa que cualquier forma de desarrollarla sea automáticamente buena.
Y esa distinción se ha vuelto fundamental para mí.
¿Estoy contribuyendo al problema?
Es probablemente la pregunta que más me incomoda.
Si utilizo inteligencia artificial, si recomiendo determinadas aplicaciones educativas y si he investigado sus posibilidades, ¿estoy contribuyendo indirectamente a desarrollar sistemas que algún día podrían representar riesgos que hoy ni siquiera sabemos controlar?
No tengo una respuesta definitiva.
Y precisamente por eso he decidido no esconder la pregunta.
Durante mucho tiempo el debate público pareció reducirse a dos posiciones: quienes consideran que la inteligencia artificial resolverá prácticamente todos nuestros problemas y quienes creen que debemos rechazarla completamente.
Hoy ninguna de las dos me representa.
Quiero conservar el entusiasmo suficiente para reconocer sus beneficios y, simultáneamente, la desconfianza suficiente para exigir límites.
El problema puede no ser la inteligencia, sino la velocidad
Existe además un elemento particularmente preocupante: la competencia.
Cuando varias compañías buscan construir sistemas cada vez más capaces, aparece un incentivo económico y estratégico enorme para llegar primero.
Pero la seguridad tiene otros tiempos.
Las leyes tienen otros tiempos.
Las universidades tienen otros tiempos.
Los gobiernos tienen otros tiempos.
Y la sociedad todavía está intentando comprender una generación tecnológica cuando los laboratorios ya están desarrollando la siguiente.
Esta semana incluso OpenAI defendió públicamente que los sistemas más capaces deberían estar sujetos a regulación obligatoria basada en sus capacidades, evaluaciones independientes, medidas de ciberseguridad y mecanismos de notificación de incidentes.
Que una de las compañías situadas en el centro de esta carrera considere insuficientes los compromisos voluntarios debería, por sí solo, provocar una conversación pública mucho más profunda.
No quiero abandonar la tecnología. Quiero exigirle responsabilidad
Después de reflexionar sobre todo esto, mi postura no es pedir que desaparezca la inteligencia artificial.
Sería absurdo ignorar sus beneficios.
Tampoco creo que debamos asumir como inevitable el peor escenario imaginable. El propio conocimiento científico disponible contiene enormes incertidumbres y desacuerdos.
Mi postura comienza a ser otra:
quiero una inteligencia artificial al servicio de las personas, pero no una carrera tecnológica en la que la humanidad termine convertida en espectadora.
Quiero investigación.
Quiero innovación.
Quiero inteligencia artificial aplicada a educación, accesibilidad, ciencia y bienestar social.
Pero también quiero evaluaciones independientes, transparencia, regulación, responsabilidad empresarial, protección de datos y la posibilidad real de detener un desarrollo cuando las evidencias indiquen que todavía no sabemos hacerlo con seguridad.
No considero que estas ideas contradigan mi entusiasmo anterior.
Creo que lo hacen madurar.
Tal vez todavía estamos a tiempo de elegir
No sé cómo serán estos sistemas dentro de cinco o diez años.
Nadie puede afirmarlo responsablemente.
Pero precisamente esa incertidumbre debería enseñarnos algo.
Cuando una tecnología potencialmente transformadora avanza extraordinariamente rápido y algunos de quienes mejor conocen su funcionamiento comienzan a advertir públicamente sobre sus riesgos, la respuesta racional no debería ser el pánico.
Pero tampoco la indiferencia.
Durante mucho tiempo preguntamos:
¿Qué será capaz de hacer la inteligencia artificial?
Quizá llegó el momento de formular una pregunta mucho más importante:
¿Qué estamos dispuestos a permitirle hacer y quién tendrá la autoridad para decidirlo?
Sigo creyendo en las posibilidades de la inteligencia artificial.
Solo que ahora quiero acompañar ese entusiasmo con algo que quizá debimos exigir desde el principio:
prudencia.
Porque el verdadero progreso tecnológico no consiste únicamente en demostrar que somos capaces de construir algo.
También consiste en tener la sabiduría suficiente para decidir hasta dónde debemos llegar.
-Dr. Carlos Hernández Montero
Redactado con asistencia de Roberto, agente IA.