Por Laura Lindsay,
Directora Senior de Estrategia de Normalización del CSG, Microsoft
Antigua vicepresidenta del subcomité de ciberseguridad de ISO
Presidenta electa del comité técnico conjunto de ISO/IEC sobre normas de TI
LinkedIn
Considere una herramienta de IA que ofrezca resultados precisos de manera sistemática y demuestre unas capacidades impresionantes. Si las personas que supuestamente deben confiar en ella no comprenden cómo se toman las decisiones ni cuestionan los resultados que parecen incorrectos, ¿por qué le confiarían una decisión importante? ¿Estaría dispuesta una organización a integrarla en un sistema crítico? ¿Estarían seguros los reguladores de poder entender y manejar sus riesgos?
La capacidad técnica es importante, pero no es suficiente para garantizar la adopción o la expansión. Lo mismo ocurre con las tecnologías emergentes: las tecnologías cuánticas, por ejemplo, albergan el potencial de transformar la computación, las comunicaciones y la medición; sin embargo, su adopción generalizada dependerá no solo de lo que puedan lograr, sino también de si se pueden desplegar de manera segura, coherente y con confianza.
Para que las tecnologías pasen de la innovación a la difusión generalizada, las sociedad necesita confiar en los sistemas que utilizan. Las empresas necesitan saber que las tecnologías funcionarán de manera confiable y segura. Los gobiernos y los reguladores necesitan maneras creíbles de comprender los riesgos y evaluar los resultados. La innovación puede comenzar por la capacidad técnica, pero su capacidad para crecer depende de algo más amplio: la confianza.
He experimentado esto directamente a través de mi trabajo en la normalización y la ciberseguridad. A medida que las tecnologías emergentes aceleran la transformación digital, crean oportunidades significativas, pero también introducen mayores complejidades e interdependencias. Las tecnologías no funcionan de manera aislada: se conectan con otros sistemas, dependen de datos e infraestructuras comunes, atraviesan fronteras y dependen de redes de proveedores y socios.
En este ambiente, no basta simplemente con declarar la confianza: hay que demostrarla.
Del desempeño a la confianza
Regresando a esa herramienta de IA, saber que funciona con precisión es importante, pero nos dice solo una parte de lo que necesitamos saber. ¿Cómo se desarrolló? ¿De qué datos depende? ¿Cómo se identifican y manejan los riesgos? ¿Cómo se comportará en el contexto en el que se implementa realmente? ¿Cómo se puede evaluar su desempeño a lo largo del tiempo?
Las declaraciones de confiabilidad por sí solas no pueden responder a estas preguntas, y necesitamos puntos de referencia comunes que marquen expectativas claras y proporcionen pruebas creíbles de que se han cumplido dichas expectativas.
Aquí es donde las normas se convierten en una parte importante para proporcionar un punto de vista común. La terminología crea un entendimiento común. Los sistemas de gestión y las normas de ciclo de vida ayudan a las organizaciones a gestionar el riesgo. Las normas técnicas establecen enfoques acordados en ámbitos como la seguridad, la protección, la calidad de los datos y la interoperabilidad. Los ensayos y la evaluación de la conformidad pueden demostrar que se cumplieron los requisitos. Juntos, estos mecanismos amplían el enfoque: de lo que una tecnología puede lograr a si se puede confiar en ella.
Ya estamos viendo en la actualidad cómo esta base de normas va tomando forma en el ámbito de la IA. Las Normas Internacionales para la IA abordan la terminología, los sistemas de gestión, la gestión de riesgos y la evaluación del impacto, junto con los requisitos para los organismos de auditoría y certificación. Estos fundamentos horizontales pueden conectar con las necesidades particulares de diferentes sectores y aplicaciones, ya que la confianza en un sistema de IA depende no solo de la tecnología en sí, sino también de dónde y cómo se utiliza.
Están empezando a surgir fundamentos similares en las tecnologías cuánticas. Las normas referidas a computación, comunicaciones, metrología, fuentes y detectores están creando un lenguaje común mientras las propias tecnologías aún se están desarrollando y sientan las bases para unos mercados confiables, seguros e interoperables.
La confianza en una tecnología se torna inseparable de la confianza en el ecosistema más amplio que la rodea.
De tecnologías individuales a ecosistemas
Confiar en una tecnología individual es importante, pero no es suficiente para su adopción a gran escala. Los ecosistemas digitales modernos dependen de la cooperación entre productos, servicios, plataformas y organizaciones. Por ejemplo, una herramienta de IA puede utilizar datos de un proveedor, la infraestructura en la nube de otro y software de otros más. También podría requerir el intercambio de información con sistemas que no son propiedad de su desarrollador ni están bajo su control.
A medida que esas conexiones se multiplican, aumenta la complejidad. La infraestructura interconectada, los flujos de datos transfronterizos, la automatización y los servicios basados en la nube pueden hacer que las economías sean más productivas y que los servicios respondan mejor, pero también hacen que cuestiones como resiliencia, identidad, integridad de los datos, privacidad y garantía de los proveedores sean más complejas, ya que trascienden de su sector. La confianza en una tecnología se torna inseparable de la confianza en el ecosistema más amplio que la rodea.
En definitiva, la interoperabilidad es esencial: Sin enfoques comunes que permitan la cooperación entre las tecnologías, los sistemas se fragmentan, los costos de integración aumentan y la amplitud de opciones se reduce. Las tecnologías que funcionan bien en un ambiente pueden tener dificultades para funcionar en diferentes organizaciones, sectores o mercados. Las normas ayudan a afrontar este desafío estableciendo enfoques consensuados que permiten que los productos y servicios de distintos proveedores funcionen juntos de manera confiable y segura. Al hacerlo, reducen la fricción, apoyan una adopción más amplia y ayudan a traducir la confianza en una tecnología individual en confianza en todo el ecosistema.
La confianza también tiene que moverse
Hay que hablar de una última complicación: ninguno de estos elementos se mantiene quieto. Todo está en constante evolución. La ciberseguridad nos ha enseñado esta lección una y otra vez. Las amenazas evolucionan, las tecnologías cambian y los incidentes revelan riesgos que eran difíciles de anticipar. Un enfoque que fomente la confianza hoy podría tener que evolucionar a medida que surjan nuevos riesgos, evidencias y dependencias.
En consecuencia, las normas deben evolucionar junto con la tecnología y alimentarse de la experiencia operacional, los incidentes, el progreso científico y las expectativas cambiantes de la sociedad. La confianza no es algo que establezcamos en el momento de la adopción y luego demos por sentado: se tiene que demostrar y renovar continuamente.
Esta es una de las razones por las que agradezco la oportunidad de contribuir a los debates sobre las tecnologías emergentes y la IA en la Reunión anual de ISO 2026. Es una oportunidad para explorar lo que significa en la práctica crear y mantener esa confianza. ¿Cómo podemos fomentar la innovación a la vez que manejamos riesgos nuevos y cambiantes? ¿Cómo generamos confianza en unos ecosistemas digitales cada vez más interconectados? Por último, ¿cómo puede la colaboración internacional ayudar a que las tecnologías se expandan de manera responsable más allá de las fronteras?
Ningún actor puede responder a estas preguntas por sí solo: se requiere una colaboración sostenida entre la industria, los gobiernos, el mundo académico, la sociedad civil y las organizaciones de normalización. Las tecnologías emergentes son solo el principio. Lo que determinará en última instancia si la innovación puede expandirse es si los demás tienen razones creíbles para confiar en ella.
Desde la IA hasta la tecnología cuántica, la confianza determinará hasta dónde pueden llegar las tecnologías emergentes. Descubra cómo las normas contribuyen a impulsar la innovación en la Reunión anual de ISO 2026.