Note pour la période des questions : INTELLIGENCE ARTIFICIELLE RESPONSABLE AU SEIN DU GOUVERNEMENT DU CANADA

Le gouvernement du Canada exploite certaines occasions qui lui permettront de faire un usage responsable de l’intelligence artificielle (IA) en vue d’améliorer les services qu’il offre aux Canadiens.

• Le Canada est le premier gouvernement national à prendre des mesures concrètes pour définir la gestion responsable de l'IA dans la prestation des services publics.
• Bien que l'IA soit prometteuse, nous devons veiller à ce qu'elle soit mise en œuvre de façon responsable, régie par des valeurs, une éthique et des lois claires et en conformité avec les obligations en matière de droits de la personne.
• Le Secrétariat du Conseil du Trésor du Canada a publié la Directive sur la prise de décision automatisée et l’outil d'évaluation des répercussions algorithmiques pour s'assurer que l'IA est utilisée de façon responsable au sein du gouvernement du Canada.
• Ces efforts sont axés sur la responsabilisation et la transparence, afin que tous les Canadiens comprennent comment nous utilisons l’IA dans nos programmes et services.

On peut décrire l’intelligence artificielle (IA) en tant que technologie de l’information qui effectue des tâches qui feraient normalement appel à une « matière grise biologique » pour être exécutées, comme le fait d’interpréter le langage parlé, d’apprendre certains comportements ou de résoudre certains problèmes.

Le Canada, reconnu pour son grand réservoir de talents en développement de l’IA, figure parmi les cinq principaux pays du monde pour ce qui est des experts en IA, comptant plus de 1 487 chercheurs qui possèdent un doctorat.

Le gouvernement du Canada a montré qu’il se préoccupait de l’utilisation responsable de l’IA en menant plusieurs initiatives internationales et nationales liées à l’IA.

Initiatives nationales en matière d’IA

Au cours des trois dernières années, le gouvernement du Canada a investi de façon stratégique dans l’écosystème canadien de l’IA. Des budgets successifs ont financé la somme de 125 millions de dollars à la création d’une stratégie pancanadienne en matière d’IA, et plus de 950 millions de dollars ont été consacrés à des initiatives dites « superamas » qui viennent générer une recherche à la fine pointe, un investissement et un talent au Canada. Ces initiatives sont gérées par Innovation, Sciences et Développement économique Canada (ISDE).

Tel qu’annoncé le 14 mai 2019, le Conseil consultatif en matière d’intelligence artificielle sert à conseiller le gouvernement quant au perfectionnement des forces et du leadership du Canada à l’échelle internationale, cerner des occasions qui lui permettraient de générer une croissance économique qui serait avantageuse pour tous les Canadiens, et à veiller à ce que les avancements que l’on connaît en matière d’IA reflètent les valeurs canadiennes. Le Conseil consultatif sert de point de référence central qui vient puiser à même les experts en IA qui proviennent de l’industrie, de la société civile, du milieu universitaire et du gouvernement du Canada.

Directive sur la prise de décisions automatisée du gouvernement du Canada

Le gouvernement du Canada est également reconnu comme leader dans l’élaboration d’une orientation visant l’usage de l’IA par le secteur public, notamment :

• La Directive sur la prise de décisions automatisée du Canada, lancée en mars 2019, cherche à veiller à ce que les systèmes automatisés de prise de décisions soient déployés de façon responsable afin de réduire les risques auxquels sont exposés les Canadiens et les institutions fédérales, et elle mène à la prise de décisions plus efficaces, précises, cohérentes et faciles à interpréter, conformément aux lois canadiennes.

• Cette Directive comprend un jeu de principes directeurs qui veilleront à ce que les ministères se servent de l’IA de façon efficace et éthique :
o Comprendre et mesurer l’incidence de l’utilisation de l’IA en menant une Évaluation de l’incidence algorithmique.
o Faire preuve de transparence quant à la façon et au moment où nous utilisons l’IA.
o Fournir des explications significatives par rapport à la prise de décisions par l’entremise de l’IA, tout en offrant des occasions d’examiner les résultats et de mettre ces décisions au défi.
o Faire preuve de la plus grande ouverture possible en partageant le code source, les données relatives à la formation, et toute autre information pertinente, tout en veillant à la protection des renseignements personnels, de l’intégrité du système et de la sécurité nationale du Canada.
o Fournir suffisamment de formation pour veiller à ce que les employés qui sont responsables de développer et de se servir des solutions d’IA possèdent les compétences nécessaires pour améliorer les services du gouvernement.

• La mise en place de cette Directive s’est faite en collaboration avec des universitaires, des dirigeants de l’industrie, de la société civile et d’autres gouvernements afin de cerner et d’atténuer les divers risques liés à l’usage des systèmes d’IA.

• L’outil d’Évaluation de l’incidence algorithmique (ÉIA), lancé en mai 2019, est un questionnaire qui a été conçu pour appuyer les ministères du gouvernement dans l’évaluation et l’atténuation des risques liés au déploiement de systèmes de prise de décisions automatisée. La LAI aide également à déterminer le niveau d’incidence des systèmes de prise de décisions automatisée en vertu de la Directive sur la prise de décisions automatisée, afin de veiller à ce que les mesures d’atténuation soient proportionnelles aux risques. La LAI a également été élaborée ouvertement, et elle est accessible par le monde extérieur qui peut la partager et la réutiliser en vertu d’une licence ouverte.

Initiatives internationales en matière d’IA

En juin 2018, le Canada et la France ont annoncé leur intention de procéder à la mise sur pied d’une initiative internationale en matière d’IA. Cette initiative, que l’on nomme maintenant le Partenariat mondial sur l’intelligence artificielle (PMIA), rassemblera certains des meilleurs experts en matière d’IA à l’échelle mondiale, afin d’appuyer et d’orienter l’adoption responsable de l’IA de façon à ce qu’elle soit axée sur les humains et qu’elle soit fondée sur les droits de la personne, et sur les principes de l’inclusion, de la diversité, de l’innovation et de la croissance économique. Le Canada et la France ont reçu une déclaration d’intérêt quant au PMIA de la part de l’Allemagne, de l’Italie, de l’Inde, du Japon, du Royaume-Uni, de la Nouvelle-Zélande et de l’Union européenne.

En 2019, le Canada a participé à l’élaboration et à l’adoption de la recommandation de l’OCDE sur l’IA, y compris les principes d’une IA digne de confiance de la part de l’OCDE, qui servent d’assisses aux principes du G20 en matière d’IA, qui ont été adoptés pendant la présidence de 2019 du Japon et appuyés par les dirigeants.

Le SCT est activement s’engage auprès d’un groupe international de nations numériques internationales de file, notamment les « Nations numériques », qui est en fait un groupe thématique qui mise sur l’IA pour guider les gouvernements dans la mise en œuvre de services numériques fondés sur des valeurs qu’ils partagent. Le Canada est membre des Nations numériques, tout comme le Danemark, l’Estonie, Israël, le Mexique, la Nouvelle-Zélande, le Portugal, la République de la Corée, le Royaume-Uni, et Uruguay.

FAITS SAILLANTS • La Directive sur la prise de décisions automatisée du gouvernement du Canada a été lancée en mars 2019 et entrera en vigueur à compter du 1er avril 2020. Celle-ci vient encourager l’usage responsable de l’automatisation dans la prestation de services aux Canadiens.
• Cette Directive est appuyée par l’outil d’Évaluation de l’incidence algorithmique (ÉIA) qui aide les fonctionnaires à évaluer et à atténuer les risques liés à l’usage de l’IA au sein du gouvernement.