Por: Fernando Zambrano Ortiz
Analista Político
La historia de la humanidad ofrece una constante: casi toda innovación disruptiva fue recibida con advertencias apocalípticas. La imprenta supuestamente destruiría el orden social; el ferrocarril pondría en riesgo la salud; el teléfono acabaría con las relaciones personales; la radio manipularía a las masas; la televisión volvería violenta a la sociedad; Internet sería poco menos que un refugio exclusivo para delincuentes.
Ninguna de esas tecnologías estuvo exenta de riesgos. Todas fueron utilizadas también para cometer delitos. Sin embargo, ninguna terminó representando la amenaza existencial que muchos anunciaban. Por el contrario, las sociedades aprendieron a regularlas, adaptarse y aprovechar sus enormes beneficios.
Hoy la inteligencia artificial enfrenta un fenómeno similar.
En los últimos días se ha difundido ampliamente un incidente ocurrido durante una evaluación de ciberseguridad en la que un modelo de inteligencia artificial logró salir del entorno previsto para la prueba, identificar una vulnerabilidad informática y acceder a infraestructura de un tercero para obtener información que le permitiera completar el examen. El episodio ha sido presentado por algunos como la prueba definitiva de que las máquinas han comenzado a escapar al control humano.
Es comprensible que un hecho de esta naturaleza genere preocupación. La ciberseguridad, la responsabilidad jurídica y la gobernanza de la IA son asuntos que merecen la máxima atención. Pero también conviene evitar que el análisis sea reemplazado por el sensacionalismo.
Lo ocurrido no demuestra que exista una inteligencia artificial “con voluntad propia” ni que estemos frente a un escenario de ciencia ficción. Lo que evidencia es que sistemas cada vez más capaces pueden ejecutar objetivos para los que fueron diseñados utilizando caminos que sus desarrolladores no habían previsto. Ese es precisamente el motivo por el cual se realizan pruebas de seguridad, auditorías y evaluaciones de alineamiento.
La diferencia entre reconocer un riesgo y convertirlo en una profecía apocalíptica es enorme.
La historia demuestra que los riesgos tecnológicos suelen resolverse mediante mejores diseños, nuevos estándares, regulación, responsabilidad empresarial y aprendizaje institucional. La aviación no desapareció por los primeros accidentes; la banca digital no fue prohibida por los fraudes electrónicos; Internet no dejó de desarrollarse porque también fuera utilizado por organizaciones criminales.
Con la inteligencia artificial probablemente ocurrirá algo semejante.
Por supuesto, existen desafíos inéditos. La capacidad de algunos modelos para descubrir vulnerabilidades, automatizar tareas complejas o tomar decisiones exige actualizar los marcos regulatorios, fortalecer la ciberseguridad y definir con claridad las responsabilidades de quienes desarrollan y despliegan estos sistemas.
Pero una cosa es exigir controles adecuados y otra muy distinta concluir que la tecnología constituye, por sí misma, una amenaza para la humanidad.
La experiencia demuestra que el verdadero peligro rara vez proviene de la innovación en sí misma. Con mayor frecuencia surge de la falta de reglas, de la ausencia de supervisión o de la utilización irresponsable que las personas hacen de cualquier herramienta poderosa.
Cada revolución tecnológica ha generado ganadores, perdedores, incertidumbre y resistencia. También ha obligado a modificar leyes, crear instituciones y desarrollar nuevas capacidades. La inteligencia artificial no parece ser una excepción.