Content area
Full text
The question of fairness is currently in the spotlight in discussions around artificial intelligence (AI). As AI is increasingly adopted in the banking sector, it is important for enablers to ensure that AI-deployed decisions respect fundamental rights, including equality rights, both legally and ethically. This will likely entail novel applications of existing anti-discrimination legislation. In this article, we shed a critical light on issues of fairness in the banking context by applying equality rights frameworks to AI, using credit models as an exemplar. The article is geared toward bankers, lawyers and judges seeking to understand and apply the law and develop governance practices for AI models used by Canadian financial institutions (FIs). We argue that, to a significant extent, existing legal and regulatory frameworks "reach" AI deployed by FIs. Considering the potential issue of unfairness in particular, we examine the landscape of Canadian human rights legislation and how anti-discrimination law mechanisms can be used to uphold the principle of fairness in AI-driven decisions. The article concludes by discussing the importance of robust AI governance and outlining best practices for developing robust governance frameworks at the institutional level.
La question de l'équité est actuellement ¿i l'honneur dans les discussions concernant l'intelligence artificielle (l'« IA »). Puisque l'IA est de plus en plus adoptee dans le secteur bancaire, il est important que les facilitateurs de l'IA s'assurent que les decisions deployees par celle-ci respectent les droits fondamentaux, notamment les droits a l'egalite, tant sur le plan juridique que sur le plan ethique. Il est ¿i prevoir que la tache donnera naissance a des applications novatrices de la legislation antidiscrimination actuelle. Dans le present article, nous jetons un regard critique sur des questions d'equite dans le contexte bancaire en appliquant a l'IA des cadres d'analyse relevant des droits a l'egalite, les modeles de credit servant ici d'exemple. L'article s'adresse aux banquiers, aux avocats et aux juges qui cherchent ¿i comprendre et ¿i appliquer le droit et ¿i elaborer des pratiques en matiere de gouvernance applicables aux modeles d'IA utilises par les institutions financieres canadiennes (les « institutions financieres »). Nous faisons valoir que, dans une large mesure, les cadres legislatifs et reglementaires actuels « atteignent » l'IA déployée par les institutions financieres. Sur la question eventuelle de...