Un groupe d'experts canadiens en politique étrangère exhorte le Canada et l'Union européenne à esquisser une nouvelle charte des puissances moyennes lors du sommet Canada–UE de la semaine prochaine à Montréal.
Ils comparent cette idée à la Charte de l'Atlantique de 1941, dans laquelle le président américain Franklin Roosevelt et le premier ministre britannique Winston Churchill ont fixé des principes pour un ordre international, notamment le droit des peuples à choisir leur propre gouvernement, le libre-échange ainsi que l'affranchissement de la peur et du besoin. Quatre-vingt-cinq ans plus tard, la charte proposée rassemblerait des démocraties déterminées à défendre leur indépendance, à traiter des problèmes qu'aucune ne peut résoudre seule et à coopérer sur des technologies liées à la sécurité nationale, à la prospérité économique et à l'autogouvernement.
L'argument est qu'un nouvel ordre technologique façonné par l'intelligence artificielle exige un modèle de souveraineté technologique : chaque nation cultiverait des capacités numériques critiques et coopérerait étroitement avec des partenaires de confiance. Les hôpitaux, les entreprises et les administrations canadiennes adoptent des systèmes d'IA fournis surtout par des sociétés américaines, et les citoyens commencent à utiliser des agents d'IA personnels tels que MUSE, de Meta. Le texte demande qui détiendrait les connaissances accumulées par ces systèmes, qui contrôlerait l'accès et qui en fixerait les conditions.
Il avertit qu'une société américaine d'IA, peut-être sous la pression du gouvernement des États-Unis, pourrait suspendre son service à une institution canadienne dans un différend transfrontalier, et qu'à mesure que l'IA remplacerait le travail intellectuel, les entreprises canadiennes pourraient verser des redevances de licence à des fournisseurs plutôt que des salaires à des employés. Un centre de données au Canada ne réglerait pas la question si le logiciel, le droit de décider de l'exploitation ou l'autorité juridique restaient à l'étranger. Les auteurs affirment que le Canada a besoin d'assez de puissance de calcul, de stockage sécurisé, de modèles fiables, de personnel qualifié et de contrôle national pour maintenir les services essentiels, les informations publiques sensibles étant soumises au droit canadien afin que les hôpitaux, le système financier, l'administration et les infrastructures critiques puissent fonctionner sur des systèmes sous contrôle canadien en cas de crise.
Ils proposent une alliance de l'IA pour les puissances moyennes comprenant le Canada, l'Europe, le Japon, la Corée du Sud, l'Australie et d'autres. Chaque pays conserverait son propre socle numérique tout en partageant le savoir-faire, le calcul à grande échelle, la recherche, les réseaux et les services selon des règles techniques, des normes et des licences communes. Les applications pourraient passer d'un fournisseur de confiance à un autre, les données sensibles et les opérations clés pourraient rester sur le territoire national, et le Canada pourrait encore fonctionner si un allié changeait de cap ou si l'alliance s'effondrait.
Les partenaires pourraient aussi aider leurs entreprises d'IA à se développer. Le Canada a Cohere ; la France a Mistral. Les universités, les entrepreneurs et les laboratoires publics de ces pays sont décrits comme ayant beaucoup à apporter. Un accès conjoint à la puissance de calcul, à l'investissement et aux achats publics pourrait donner aux entreprises prometteuses une chance face aux géants du secteur ailleurs. Les auteurs appellent à la concurrence plutôt qu'à un monopole public, et à une ouverture fondée sur des normes, des modèles open source que les organisations peuvent inspecter, adapter et faire fonctionner elles-mêmes, des outils de recherche et des données publiques vérifiables, y compris une aide aux pays en développement.
Sur la gouvernance, ils énumèrent les biais, les menaces pour la vie privée, la désinformation, les destructions d'emplois et la concentration du pouvoir, ainsi qu'un risque supplémentaire d'auto-amélioration récursive dans laquelle l'IA améliorerait ses propres capacités, potentiellement au-delà du contrôle humain. Ils disent que les puissances moyennes ne peuvent ni arrêter les laboratoires américains ou chinois ni dicter des règles pour l'humanité, mais qu'elles peuvent appliquer chez elles des principes communs, agréer et inspecter les systèmes puissants, exiger la divulgation des capacités dangereuses et des défaillances, et utiliser leur poids collectif pour rechercher des accords plus larges. Les humains devraient conserver l'autorité sur les décisions concernant les vies, les armes et les services essentiels ; les agents devraient avoir des limites, des registres et un moyen d'être arrêtés, et ne devraient avoir aucune personnalité juridique. Les pays auraient besoin de limites aux usages dangereux et de procédures d'urgence en cas de crise de l'IA, l'ONU pouvant convoquer des discussions plus larges tandis que les lois nationales et la coopération donneraient force aux accords.