Déclaration de Montréal pour un développement responsable de l'intelligence artificielle

2018

La Déclaration de Montréal pour un développement responsable de l’IA propose un cadre éthique pour orienter la transition numérique. La Déclaration repose sur un dialogue collectif national et international pour un développement inclusif, équitable et écologiquement soutenable de l’IA.

De quel besoin naît le projet?

Le besoin a émergé de diverses voix dans la société qui étaient à la recherche d’un cadre éthique, politique et légal pour orienter la recherche et les applications d’IA. Ces voix se sont exprimées dans un contexte où les capacités de l’IA se sont accrues de sorte que les systèmes autonomes sont maintenant capables d’accomplir des tâches complexes. Face aux impacts potentiels de ces technologies sur la société, entre autres sur le travail ou même les relations personnelles, de nombreuses voix exprimaient le besoin d’une réflexion ouverte et démocratique sur les impacts de ces technologies.

Une solution innovante

Les enjeux éthiques de l’IA ont été discutés et débattus autour de scénarios prospectifs. Des forums ouverts se sont tenus pour rejoindre une diversité de personnes : citoyennes et citoyens, expertes et experts, professionnelles et professionnels. Le résultat du processus de coconstruction a pris la forme d’une déclaration qui rassemble 10 principes et valeurs éthiques (60 sous-principes) qui font la promotion des intérêts fondamentaux des personnes et des groupes. Ainsi, La Déclaration s’adresse à toute personne, toute organisation de la société civile et toute entreprise désireuses de participer au développement de l’intelligence artificielle de manière responsable.

Porteurs du projet

Une équipe pluridisciplinaire et interuniversitaire menée à l’initiative de l’Université de Montréal. L’équipe rassemble plus d’une quinzaine de personnes avec des expertises dans de nombreux secteurs, que ce soit la philosophie et l’éthique, le design, l’intelligence artificielle et la science des données, la santé publique, les sciences de l’information et les relations industrielles, rattachés à des universités québécoises et des États-Unis.

Au service de qui?

La Déclaration de Montréal est destinée à toute personne, toute organisation de la société civile et toute compagnie désireuse de participer au développement de l’IA de manière responsable, que ce soit pour y contribuer scientifiquement et technologiquement, pour développer des projets sociaux ou pour élaborer des règles (règlements, codes). Elle s’adresse également aux responsables politiques, élus ou nommés, dont les citoyennes et citoyens attendent qu’ils prennent la mesure des changements sociaux en gestation, qu’ils mettent en place des cadres et anticipent les risques.

La Déclaration a une portée, locale, nationale et internationale :

• elle a inspiré la Charte des données de la Ville de Montréal, le Guide d’innovation responsable en santé du CHUM ainsi que des guides et rapports pour des organismes publics;
• elle a alimenté des discussions et des initiatives au niveau du gouvernement fédéral;
• elle est utilisée comme un outil de diplomatie scientifique. Ses recommandations et sa méthode ont inspiré les démarches de consultations sur l’IA d’organisations à l’international comme l’Union européenne ou l’UNESCO.

Témoignages

« Unlike previous guidelines on AI, these were devised in an open, democratic process that included the help of the public, sociologists and policymakers. »
« Contrairement aux anciennes recommandations sur l’IA, celles-ci ont été conçues par un processus ouvert et démocratique qui a inclut l’aide du public, de sociologues et de décideurs politiques. » (traduction libre)
– Extrait de la revue Nature

« Si on a des outils puissants, on doit faire attention […] c’est pour ça qu’on a besoin d’un cadre éthique et normatif et éventuellement légal. »
– Yoshua Bengio, tiré du documentaire IA être ou ne pas être, épisode 1 : La jeunesse : l’âge de l’apprentissage, Radio-Canada

Ça s’en vient ou pas? : Intelligence artificielle – Anticipation, Marc-Antoine Dilhac parle de la Déclaration de Montréal, Radio-Canada Information (7 min 14 s)

Leçons apprises

La Déclaration a été pionnière en matière de gouvernance de l’IA, son exhaustivité et sa méthode novatrice basée sur la coconstruction ont été saluées. Sa démarche a mis en lumière un besoin de renforcement de la littératie du public en matière de technologies numériques et leurs impacts sociétaux. Il en est de même pour les organisations développant ou déployant des solutions d’IA, qui sont en forte demande d’outils et d’accompagnement afin de réfléchir à ces questions et les mettre en œuvre.

Partenaires et collaborateurs

Les organismes qui ont collaborés à la Déclaration :

• Groupe de recherche Design et société (UdeM)
• CÉRIUM (UdeM)
• Centre de recherche en éthique (UdeM)
• LabVille Prospective (UdeM)
• IVADO (UdeM)
• Société des Arts Technologiques
• ICRA – Programme IA et société
• PolEtHics (UdeM)
• Cirano
• Fonds de recherche du Québec
• Institut d’éthique appliquée  (Université Laval)
• Musée de la Civilisation
• Centre de recherche en données massives (Université Laval)
• Gouvernement du Canada
• Centre culturel canadien Paris
• Maison des étudiants canadiens.