Par Laura Lindsay,
Directrice CSG Stratégie de normalisation, Microsoft,
Ancienne Vice-présidente du sous-comité de l’ISO sur la cybersécurité,
Présidente élue du comité technique mixte ISO/IEC sur les normes relatives aux TI
LinkedIn
Prenons l’exemple d’un outil d’IA qui produit des résultats systématiquement précis et fait preuve de capacités impressionnantes. Si les personnes censées s’y fier ne peuvent ni comprendre comment les décisions sont prises ni contester des résultats qui leur semblent erronés, pourquoi lui feraient-elles confiance pour prendre une décision importante ? Un organisme serait-il prêt à l’intégrer dans un système critique ? Les organismes de réglementation seraient-ils confiants à l’idée que les risques associés à cet outil peuvent être compris et maîtrisés ?
La capacité technique compte, certes, mais elle ne fait pas tout pour garantir l’adoption ou le passage à l’échelle. Le même constat vaut pour l’ensemble des technologies émergentes. Les technologies quantiques, par exemple, ont le potentiel de transfigurer les domaines de l’informatique, des communications et de la métrologie. Or, leur adoption à grande échelle dépendra non seulement de ce qu’elles peuvent accomplir, mais aussi de leur capacité à être déployées de manière sûre, fiable et avec confiance.
Pour qu’une technologie passe du stade de percée décisive à la généralisation de son usage, les gens doivent avoir confiance dans les systèmes qu’elles utilisent. Les entreprises ont besoin d’être sûres que les technologies fonctionneront de manière fiable et sécurisée. Les gouvernements et les organismes de réglementation ont besoin de moyens crédibles pour comprendre les risques et évaluer les résultats. L’innovation peut naître d’une prouesse technique, mais sa capacité à passer à l’échelle dépend d’un facteur aux enjeux bien plus vastes : la confiance.
Ce constat, je le fais mien dans le cadre de mon travail sur les normes et la cybersécurité. En effet, l’accélération de la transformation technologique impulsée par les technologies émergentes se traduit par de formidables opportunités, mais aussi par une plus grande complexité et une interdépendance accrue. Les technologies ne fonctionnent pas indépendamment les unes des autres. Elles sont connectées à d’autres systèmes, reposent sur des données et des infrastructures partagées, franchissent les frontières et dépendent de réseaux de fournisseurs et de partenaires.
Dans un tel contexte, la confiance ne se demande pas. Elle se mérite.
De la performance à la confiance
Revenons à notre outil d’IA. Savoir qu’il produit des résultats précis est important, mais ce n’est pas l’essentiel. Comment a-t-il été développé ? Sur quelles données repose-t-il ? Comment les risques sont-ils identifiés et gérés ? Comment se comportera-t-il dans le contexte dans lequel il est réellement déployé ? Comment évaluer sa performance au fil du temps ?
Les allégations de fiabilité seules ne suffisent pas à répondre à ces questions. Il faut une base de référence commune qui établisse des attentes claires et fournisse des preuves crédibles que ces attentes sont satisfaites.
C’est là que les normes prennent tout leur sens, en posant une perspective commune. La terminologie permet de créer une compréhension commune. Les systèmes de management et les normes relatives au cycle de vie aident les organismes à gérer les risques. Les normes techniques établissent des approches convenues pour des domaines tels que la sécurité, la sûreté, la qualité des données et l’interopérabilité. Les essais et l’évaluation de la conformité peuvent fournir la preuve que les exigences sont remplies. Ensemble, tous ces mécanismes amènent à s’intéresser non plus seulement à ce que peut réaliser une technologie, mais aussi à la confiance que l’on peut lui accorder.
Ces premières pierres à l’édifice de la normalisation sont déjà posées dans le domaine de l’IA. En effet, les Normes internationales sur l’IA traitent de la terminologie, des systèmes de management, de la gestion du risque et de l’évaluation de l’impact, ainsi que des exigences applicables aux organismes d’audit et de certification. Ces fondements horizontaux peuvent répondre à certains besoins propres à différents secteurs et applications, la confiance dans un système d’IA étant conditionnée non seulement par la technologie elle-même, mais également par le contexte et les modalités de son utilisation.
Une amorce similaire est à l’œuvre dans les technologies quantiques. Les normes dans les domaines de l’informatique, des communications, de la métrologie, des sources et des détecteurs fondent un socle commun, alors même que les technologies elles-mêmes sont toujours en cours de développement. Autrement dit, les normes pavent le chemin vers une fiabilité, une sécurité et une interopérabilité des marchés.
La confiance dans une technologie en particulier devient alors indissociable de la confiance dans l’écosystème plus large qui l’entoure.
De la technologie à l’écosystème
La confiance dans une technologie en particulier est importante, mais elle ne suffit pas pour une adoption à grande échelle. Les écosystèmes numériques modernes dépendent de l’orchestration de produits, de services, de plateformes et d’organismes fonctionnant de concert. Un outil d’IA, par exemple, peut reposer sur des données provenant d’un fournisseur, sur une infrastructure en nuage fournie par un autre et sur des logiciels édités par plusieurs autres. Il peut également devoir échanger des informations avec des systèmes qui ne dépendent pas de son développeur.
Seulement, à mesure que ces connexions se multiplient, la complexité s’accroît. Les infrastructures interconnectées, les flux transfrontaliers de données, l’automatisation et les services basés sur le nuage peuvent rendre les économies plus productives et les services plus réactifs. Mais ils compliquent également les questions de résilience, d’identité, d’intégrité des données, de confidentialité et d’assurance des fournisseurs, en ce qu’ils touchent plusieurs secteurs. La confiance dans une technologie en particulier devient alors indissociable de la confiance dans l’écosystème plus large qui l’entoure.
D’où l’importance déterminante de l’interopérabilité. Sans approches communes permettant aux technologies de fonctionner ensemble, les systèmes se fragmentent, les coûts d’intégration augmentent et le choix se réduit. Les technologies performantes dans un environnement donné peuvent perdre en efficacité dans d’autres organismes, secteurs ou marchés. Aussi, les normes contribuent-elles à lever cette difficulté en établissant des approches convenues qui permettent aux produits et services provenant de différents fournisseurs de fonctionner ensemble de manière fiable et sécurisée. Ce faisant, elles réduisent les frictions, favorisent une adoption à plus grande échelle et contribuent à reporter la confiance accordée à une technologie en particulier sur l’ensemble de l’écosystème qui l’entoure.
La confiance : un acquis jamais acquis
Une autre complication se pose, et non des moindres : rien de tout cela n’est figé. Le monde des technologies évolue constamment. La cybersécurité nous le rappelle en permanence. Les menaces évoluent. Les technologies aussi. Les incidents mettent en lumière des risques difficiles à anticiper. Une approche qui favorise la confiance aujourd’hui peut perdre en pertinence à mesure que de nouvelles preuves, de nouveaux risques et de nouvelles dépendances émergent.
Les normes doivent donc évoluer en même temps que la technologie, au regard de l’expérience sur le terrain, des incidents, des progrès scientifiques et de l’évolution des attentes de la société. La confiance ne se décrète pas et n’est jamais définitivement acquise. Elle doit être éprouvée et renouvelée en permanence.
Je me réjouis donc de l’opportunité qui m’est offerte de prendre part aux débats sur les technologies émergentes et l’IA lors de la Réunion annuelle de l’ISO 2026. C’est une formidable occasion d’explorer ce que signifie, dans la pratique, bâtir et entretenir cette confiance. Comment laisser cours à l’innovation tout en gérant les risques émergents et évolutifs ? Comment instaurer la confiance dans des écosystèmes numériques de plus en plus interconnectés ? Et dans quelles mesures la collaboration internationale peut-elle contribuer au passage à l’échelle des technologies au-delà des frontières de manière responsable ?
Aucun acteur ne peut à lui seul répondre à ces questions. Elles trouveront leur réponse à travers une collaboration assidue entre les acteurs du monde économique, les pouvoirs publics, le monde universitaire, la société civile et les organismes de normalisation. Les technologies émergentes ne sont que le début de l’histoire. Car, en définitive, ce qui déterminera la capacité d’une innovation à se généraliser tiendra à la crédibilité des raisons incitant à lui faire confiance.
De l’IA à l’informatique quantique, la confiance déterminera jusqu’où les technologies émergentes pourront aller. Découvrez comment les normes contribuent à l’essor de l’innovation lors de la Réunion annuelle de l’ISO 2026.