Objectifs de la mobilisation consultative

Dans son budget de 2023, le gouvernement du Canada a annoncé la création d'un programme national de soins dentaires qui sera mis en œuvre par Santé Canada, et il s'est engagé à financer l'administration de ce programme à concurrence de plus de 13 milliards de dollars. Parallèlement, Statistique Canada s'est vu octroyer 23,1 millions de dollars sur deux ans pour « recueillir des données sur la santé buccodentaire et l'accès aux soins dentaires au Canada », qui serviront de base à la mise en œuvre du nouveau Régime canadien de soins dentaires. Avec les fonds qui lui sont versés, Statistique Canada est en train de mettre au point un programme statistique robuste qui comprend la collecte de données sur l'état de santé buccodentaire autodéclaré des Canadiens et Canadiennes et sur leurs besoins en matière de soins buccodentaires, et la collecte de données sur l'état du système canadien de soins buccodentaires. De plus, l'organisme est en train d'effectuer les investissements nécessaires à la création d'une infrastructure qui permettra de mener à bien les activités de collecte au-delà de 2025.

Le nouveau Programme de la statistique sur la santé buccodentaire (PSSD) de Statistique Canada vise à combler les besoins en données sur la santé buccodentaire au moyen d'une stratégie globale et intégrée axée sur deux activités principales : la création de nouvelles enquêtes sur la santé buccodentaire ainsi que l'acquisition et l'intégration de données administratives connexes.

Dans le cadre de la création de ce nouveau programme statistique, Statistique Canada a lancé une série de séances de consultation auprès des principales parties prenantes. L'objectif était de mieux comprendre leurs préférences en ce qui concerne l'accès aux résultats du PSSD, le format des produits de diffusion, et les utilisations possibles des données du PSSD. Cette activité visait également à sonder les différentes parties de manière informelle pour évaluer leur connaissance des sources de données sur la santé buccodentaire et les soins de santé buccodentaire.

Méthodes de mobilisation consultative

Les consultations sur le PSSD ont été menées sous la forme de séances d'information virtuelles, lesquelles comprenaient des discussions de groupe avec un large éventail de parties prenantes du milieu de la santé buccodentaire. Ainsi, des gens issus d'organismes de réglementation, d'associations professionnelles, de réseaux de recherche et d'autres groupes ont pu formuler leurs commentaires. Les séances de mobilisation consultative se sont déroulées en deux phases, l'une au cours des deux premières semaines de décembre 2023 et l'autre au cours des deux dernières semaines de janvier 2024. Ces séances ont été diffusées sur la page Consultation des Canadiens de Statistique Canada. Par ailleurs, les différentes parties ont été personnellement invitées par courriel à participer aux séances, et à partager l'invitation avec d'autres membres de leur réseau. En plus de prendre part aux séances en mode virtuel, les participants et participantes ont eu la possibilité de nous communiquer leurs commentaires au moyen de formulaires électroniques et par écrit.

Dans l'ensemble, Statistique Canada a animé 10 groupes de discussion dans les deux langues officielles et a recueilli des commentaires auprès de 115 personnes représentant un total de 61 organisations des secteurs public et privé. Ces organisations — fournisseuses ou utilisatrices potentielles de données — comprenaient des établissements d'enseignement, des administrations municipales et provinciales ainsi que des associations professionnelles provinciales et nationales de toutes les professions de la santé buccodentaire. Des professionnels et professionnelles de la santé buccodentaire (dentistes, chirurgiens/chirurgiennes-dentistes, hygiénistes et thérapeutes dentaires, assistants/assistantes dentaires, technologues et techniciens/techniciennes dentaires) ont pris part aux discussions. Des organismes fédéraux et provinciaux de réglementation des soins buccodentaires y ont également participé.

Ce que nous ont dit les parties prenantes

Les capacités et l'expérience en matière d'analyse des données de santé buccodentaire variaient grandement d'une organisation à l'autre. Il est ressorti de nos consultations que les établissements d'enseignement, les associations professionnelles et les organismes gouvernementaux ont généralement des équipes spécialisées dans l'analyse des données, tandis que les petites entités, comme les organismes de réglementation, ont généralement une faible capacité d'analyse indépendante des données.

Au sujet des difficultés rencontrées dans l'écosystème actuel des données sur la santé buccodentaire, plusieurs ont soulevé les points suivants : ressources limitées pour effectuer des analyses; obstacles à l'accès aux données; ensembles de données incomplets en raison de l'absence d'intégration des données sur les demandes de règlement avec les dossiers de santé électroniques, les données sur les admissions à l'hôpital pour des problèmes de santé buccodentaire et les données des programmes de soins dentaires provinciaux; silos organisationnels; et fatigue liée à la participation aux enquêtes qui se traduit par de faibles taux de réponse. Malgré ces difficultés, la grande majorité des participants et participantes ont cité les retombées potentielles de l'utilisation des données du PSSD pour soutenir les efforts de sensibilisation et pour éclairer la prise de décisions stratégiques. Ils ont aussi souligné l'importance de permettre l'accès à des données agrégées faciles à analyser, ainsi que de garantir la possibilité de demander des ensembles de données précis au besoin. La plupart des organisations ont notamment déclaré ne pas mener leurs propres enquêtes sur la santé buccodentaire ou ne pas tenir de dépôts de données indépendants, choisissant plutôt d'utiliser de multiples sources de données externes. En résumé, les acteurs de la santé buccodentaire recherchent activement des données complètes et exploitables pour traiter efficacement d'enjeux clés et améliorer les résultats en matière de santé buccodentaire.

Statistique Canada tient à remercier toutes les personnes et organisations participantes de leur contribution à cette initiative de mobilisation consultative. Leurs points de vue et leurs expériences seront essentiels à l'élaboration de produits et de stratégies de diffusion de données pertinentes et actuelles pour aider les utilisatrices et utilisateurs de données.

Par : Uchenna Mgbaja, Nazmus Sakeef, Kendrick Moreno, Catrina Llamas et Roe Alincastre; NorQuest College

Présentation

Le projet Edmonton Food Drive (EFD) est le fruit d’une collaboration entre le NorQuest College, l’Église LDS, etc. visant à améliorer la logistique de l’une des plus grandes initiatives communautaires de dons alimentaires de l’Alberta. Le système actuel de gestion des dons alimentaires rencontre des difficultés dans la coordination des lieux de dépôt, des processus de collecte et de la planification des itinéraires. Il est nécessaire d’automatiser et d’améliorer ces processus afin de garantir la collecte des dons en temps voulu et de minimiser les complexités logistiques.

Ce projet multipartite vient en aide à plus de 40 000 personnes chaque mois en distribuant plus de 400 000 repas à des personnes dans le besoin. Ces chiffres montrent l’importance de la demande au sein de la communauté et soulignent le rôle essentiel des efforts de collaboration dans la lutte contre l’insécurité alimentaire.

L’objectif de ce projet était de développer une solution d’apprentissage automatique afin d’améliorer la gestion des activités de dons alimentaires en Alberta. Le projet vise à accroître l’efficacité et l’efficience des processus de dépôt et de collecte, à rationaliser la planification des itinéraires et à améliorer l’allocation des ressources.

Solutions proposées

Un élément clé de l’Edmonton Food Drive est le rôle joué par les paroisses et les pieux, les unités organisationnelles au sein de l’Église de Jésus-Christ des Saints des Derniers Jours (LDS), qui facilitent la participation des bénévoles et la coordination logistique.

Dans l’Église LDS, une paroisse est une congrégation locale qui dessert une zone géographique spécifique, tandis qu’un pieu est une unité administrative plus grande composée de plusieurs paroisses. Dans le cadre du projet EFD, les pieux supervisent plusieurs paroisses, fournissant un soutien organisationnel et des ressources, tandis que les paroisses coordonnent les efforts des bénévoles, la collecte des dons et la gestion des itinéraires dans leurs zones respectives.

Sur la base des objectifs du projet, les solutions suivantes ont été proposées et développées pour relever les défis identifiés :

• Amélioration de la collecte de données :

Créer des formulaires d’acquisition de données pour collecter des données auprès des paroisses par le biais d’enquêtes structurées, permettant aux bénévoles de répondre aux questions aussi rapidement et efficacement que possible.

• Analyse des tendances :

Utiliser la visualisation des données et des techniques statistiques pour effectuer une analyse d’une année sur l’autre, révélant les tendances critiques et les indicateurs de performance.

• Tableaux de bord interactifs :

Créer des tableaux de bord interactifs et conviviaux qui permettent aux parties prenantes d’explorer et de comparer facilement les données, facilitant ainsi une prise de décision plus éclairée.

• Modélisation prédictive :

Mettre en œuvre des techniques d’apprentissage automatique pour développer un modèle prédictif qui prévoit les tendances en matière de dons et identifie les nouvelles tendances.

• Prévisions d’efficacité :

Construire un modèle prédictif pour estimer quels paroisses ou pieux auront le plus grand impact en termes d’efficacité pour 2025.

• Application de cartographie des itinéraires :

Développer une application de numérisation des itinéraires qui génère automatiquement des cartes numérisées pour les bénévoles, améliorant ainsi l’efficacité opérationnelle. Créer une application de cartographie des itinéraires qui génère des cartes interactives pour les bénévoles, en se concentrant sur les adresses à forte demande ou les zones sensibles pour une efficacité opérationnelle à long terme.

Ces solutions proposées visaient à rationaliser les processus opérationnels, à renforcer l’engagement des parties prenantes et à tirer parti des informations prédictives pour améliorer la planification et l’exécution des futures collectes alimentaires.

Méthodologie

Collecte de données

Les données sur les volumes de dons, les itinéraires et la participation des bénévoles ont été recueillies lors de la collecte alimentaire d’Edmonton en septembre 2023 et septembre 2024. Les données ont été collectées auprès de 6 pieux et 27 paroisses. Ces données ont été systématiquement collectées auprès de centres de collecte désignés, assignés par les représentants des clients, afin de garantir une couverture précise des itinéraires et des régions spécifiques. Bien que complètes dans le cadre du champ d’application assigné, les données ne représentaient pas tous les points de collecte d’Edmonton, ce qui limitait leur applicabilité à l’ensemble de la ville.

Ensembles de données :

Nous avons commencé notre analyse sur les données collectées en 2023 auprès des paroisses. En 2024, nous avons ajouté des règles de validation des données afin de réduire les risques d’erreurs de saisie tout en veillant à ce que le temps nécessaire aux bénévoles pour remplir le formulaire reste aussi court qu’auparavant.

Les données collectées en 2023 se concentraient sur les renseignements essentiels relatifs à la collecte des dons, aux bénévoles et aux itinéraires. Bien qu’elles aient fourni une base solide, elles étaient limitées en termes de validation des données et de richesse des caractéristiques. L’ensemble de données comprenait 13 caractéristiques et 454 échantillons.

Nom de la colonne	Description
Date	Date à laquelle la collecte alimentaire a eu lieu.
Lieu	Zone ou quartier spécifique où la collecte alimentaire a été effectuée.
Pieu	L’organisation ou le groupe responsable de la gestion des bénévoles dans la zone.
Nombre de bénévoles adultes	Nombre de bénévoles adultes ayant participé à l’activité.
Nombre de jeunes bénévoles	Le nombre de jeunes bénévoles qui ont participé à l’activité.
Sacs de dons collectés	Le nombre total de sacs de dons collectés pendant l’activité.
Temps nécessaire pour terminer (min)	Le temps total (en minutes) nécessaire pour terminer le ou les itinéraires assignés.
Plus d’un itinéraire parcouru	Indique si plus d’un itinéraire a été parcouru (p. ex., Oui/Non).
Paroisse	Paroisse municipale où la collecte alimentaire a eu lieu.
Itinéraires parcourus	Nombre total d’itinéraires parcourus par les bénévoles.
Portes sur l’itinéraire	Nombre total de portes couvertes dans l’itinéraire attribué.
Numéro/nom de l’itinéraire.1	Identifiant ou nom de l’itinéraire attribué aux bénévoles.
Temps passé	Durée totale passée par les bénévoles pendant l’activité de collecte alimentaire.
Nombre de bénévoles adultes	Nombre de bénévoles adultes ayant participé à l’activité.

Tableau 1 : Informations sur les caractéristiques de l’ensemble de données EFD 2023

Description : Cet ensemble de données comprend les données collectées au moyen d’un formulaire Google pendant la collecte alimentaire d’Edmonton 2023. Nombre de caractéristiques : 13; nombre d’échantillons : 454.

Nom de la colonne	Description
Identifiant	Identifiant unique attribué à chaque formulaire soumis.
Heure de début	Heure à laquelle le bénévole a commencé à remplir le formulaire.
Heure de fin	Heure à laquelle le bénévole a terminé de remplir le formulaire.
Courriel	Adresse courriel fournie par le bénévole.
Nom	Nom du bénévole.
Comment avez-vous reçu le formulaire?	Méthode par laquelle le bénévole a reçu le formulaire (p. ex., courriel, lien).
Adresse courriel	Adresse courriel de contact pour toute communication ultérieure.
Lieu de dépôt	Lieu principal où les dons ont été déposés.
Autres lieux de dépôt	Autres lieux où les dons ont été déposés.
Pieu	Pieu spécifique responsable de l’organisation de la participation du bénévole.
Pieux de Bonnie Doon	Indique l’implication dans le pieu de Bonnie Doon.
Pieu d’Edmonton Nord	Indique l’implication dans le pieu d’Edmonton Nord.
Pieu de Gateway	Indique la participation dans le pieu de Gateway.
Pieu de Riverbend	Indique la participation dans le pieu de Riverbend.
Pieu de Sherwood Park	Indique la participation dans le pieu de Sherwood Park.
Pieu YSA	Indique la participation dans le pieu des jeunes adultes seuls (Young Single Adults; YSA).
Numéro/nom de l’itinéraire	Identifiant ou nom de l’itinéraire de collecte des dons.
Temps passé à collecter les dons	Temps total passé à collecter les dons pour l’itinéraire.
Nombre d’adultes bénévoles ayant participé à cet itinéraire	Nombre d’adultes bénévoles ayant participé à cet itinéraire spécifique.
Nombre de jeunes bénévoles ayant participé à cet itinéraire	Nombre de jeunes bénévoles ayant participé à cet itinéraire spécifique.
Nombre de portes sur l’itinéraire	Nombre total de portes couvertes sur l’itinéraire.
Nombre de sacs de dons collectés	Nombre total de sacs de dons collectés sur l’itinéraire.
Avez-vous effectué plus d’un itinéraire?	Indique si le bénévole a effectué plus d’un itinéraire (p. ex., Oui/Non).
Combien d’itinéraires avez-vous effectués?	Le nombre total d’itinéraires effectués par le bénévole.
Itinéraires supplémentaires effectués (2 itinéraires)	Détails sur un deuxième itinéraire supplémentaire effectué, le cas échéant.
Itinéraires supplémentaires effectués (3 itinéraires)	Détails sur un troisième itinéraire supplémentaire effectué, le cas échéant.
Itinéraires supplémentaires effectués (3 itinéraires)2	Détails concernant un troisième itinéraire supplémentaire parcouru, le cas échéant.
Itinéraires supplémentaires parcourus (plus de 3 itinéraires)	Détails concernant les itinéraires supplémentaires parcourus au-delà de trois, le cas échéant.
Itinéraires supplémentaires parcourus (plus de 3 itinéraires)2	Détails supplémentaires concernant les itinéraires parcourus au-delà de trois, le cas échéant.
Itinéraires supplémentaires parcourus (plus de 3 itinéraires)3	Détails supplémentaires concernant les itinéraires parcourus au-delà de trois, le cas échéant.
Commentaires ou retours	Tout commentaire, suggestion ou retour supplémentaire fourni par le bénévole II.

Tableau 2 : renseignements sur les caractéristiques de l’ensemble de données EFD 2024

Description : Cet ensemble de données comprend les données collectées via un formulaire Microsoft pendant la collecte alimentaire d’Edmonton 2023. Nombre de caractéristiques : 31; nombre d’échantillons : 653

Extraction de renseignements géographiques : ensemble de données sur les quartiers de la ville d’Edmonton

Afin de compléter les données de la collecte alimentaire, l’ensemble de données sur les quartiers de la ville d’Edmonton [Lien] a été intégré à l’analyse. Cet ensemble de données a fourni des coordonnées géographiques et les noms des quartiers, permettant ainsi une analyse géospatiale des tendances en matière de dons et de l’efficacité des itinéraires.

Les renseignements géographiques ont été extraits de l’ensemble de données sur les évaluations foncières et fusionnées avec les données de la collecte alimentaire à l’aide des noms uniques des quartiers. Ces données ont ensuite été utilisées pour générer des cartes qui fournissent des renseignements visuels sur les modèles et les tendances en matière de dons au niveau des quartiers. Les colonnes présentées dans le tableau 3 ont été spécialement extraites à cette fin :

Nom de la colonne	Description
Nom de la colonne	Nom officiel du quartier dans la ville d’Edmonton.
Latitude	Coordonnée géographique indiquant la position nord-sud du quartier.
Longitude	Coordonnée géographique indiquant la position est-ouest du quartier.

Tableau 3 : Renseignements sur les caractéristiques de l’ensemble de données sur les quartiers de la ville d’Edmonton

Description : Les données géographiques des quartiers de la ville d’Edmonton fournissent des renseignements complets sur les limites des quartiers, la démographie, l’utilisation des sols et d’autres caractéristiques utiles pour l’urbanisme et l’analyse. Nombre de caractéristiques : 3; nombre d’échantillons : 427

Ces renseignements ont été essentiels pour créer des visualisations géospatiales interactives et des cartes numériques des itinéraires pour la collecte alimentaire d’Edmonton.

Analyse exploratoire des données

Les données collectées ont été nettoyées et préparées pour l’analyse afin d’en garantir l’exactitude et la cohérence. Des visualisations clés ont été générées afin de fournir des renseignements comparatifs, en mettant l’accent sur l’identification des tendances et des modèles en matière de volumes de dons, d’affectation des bénévoles et d’efficacité des itinéraires. Les renseignements se limitaient aux données collectées auprès des centres de collecte désignés, soulignant la nécessité d’une stratégie de collecte de données plus complète pour les futures collectes. Notre stratégie d’analyse exploratoire des données consistait à examiner chaque caractéristique individuellement et à effectuer des analyses détaillées pour chacune d’entre elles.

Nous avons procédé à une analyse complète des données de la collecte alimentaire d’Edmonton, en nous concentrant sur la mise en évidence de modèles et de relations afin d’améliorer la compréhension des variables clés et d’optimiser les efforts futurs. L’analyse a commencé par l’examen de la fréquence et de la répartition des lieux de dépôt, en explorant leur relation avec des variables telles que le nombre de sacs de dons collectés et le nombre de bénévoles impliqués. La fréquence des différentes valeurs de « pieux » a été évaluée et leur impact sur les caractéristiques numériques, notamment le nombre de portes et de sacs de dons, a été analysé de près.

En outre, nous avons exploré les aspects liés au temps, en analysant la fréquence des différentes catégories de temps et en étudiant les différences de temps passé entre les « pieux » et les « paroisses ». La répartition des données entre les paroisses a également fait l’objet d’une attention particulière, en examinant comment certaines paroisses influençaient d’autres variables, telles que le nombre de sacs de dons et d’itinéraires. La participation des bénévoles a également été analysée, en accordant une attention particulière à la corrélation entre les bénévoles adultes et d’autres caractéristiques numériques, ainsi qu’à la répartition globale des bénévoles entre les différentes zones.

La répartition du nombre de portes a été évaluée par rapport à des variables catégorielles, et le nombre moyen de portes par « pieu » a été calculé. En outre, la relation entre les sacs de dons et le nombre d’itinéraires a été analysée, en comparant les variations du nombre de sacs de dons entre les différents lieux et paroisses. Les tendances annuelles ont également été étudiées, afin d’identifier les changements dans les volumes de dons et le nombre total de bénévoles au fil du temps.

Grâce à cette analyse, nous avons découvert des renseignements précieux sur les relations entre les lieux de dépôt, les bénévoles et les tendances en matière de dons.

Affiner les données :

Pour l’ensemble de données EFD 2024, nous avons identifié les problèmes suivants et appliqué les méthodes respectives pour les résoudre.

Problèmes détectés	Méthode d’affinage
Noms de colonnes trop longs	Renommer les noms de colonnes pour plus de clarté
Formats de chaînes incohérents	Suppression des espaces avant et après Conversion au format titre Suppression des caractères inutiles
Types de données incorrects et incohérents	Conversion des variables aux types de données corrects
Valeurs nulles détectées	Variables numériques : Imputation de la moyenne pour remplacer les valeurs nulles, en conservant la distribution de l’ensemble de données à l’aide de la moyenne de la caractéristique. Variables catégorielles : Aucune valeur nulle détectée
Valeurs vides détectées	Marquage des champs catégoriels vides avec des espaces réservés (p. ex., « Itinéraires inconnus »)
Valeurs dupliquées	Suppression des valeurs et des colonnes dupliquées
Trop de données non pertinentes	Suppression des colonnes non pertinentes
Identification des valeurs aberrantes	Détection à l’aide de la méthode IQR et imputation à l’aide de la moyenne
Tableau 4 : Problèmes identifiés dans l’ensemble de données EFD 2024 et leurs solutions respectives

Après avoir affiné les données de l’ensemble EFD 2024, nous l’avons fusionné avec l’ensemble EFD 2023 et l’ensemble de données sur les quartiers de la ville d’Edmonton. Nous avons utilisé notre ensemble de données final nettoyé pour une analyse plus approfondie.

Visualisation des données :

Nous avons créé des visualisations interactives à l’aide de Tableau afin de rendre nos conclusions EDA faciles à comprendre. Ces visualisations permettent aux utilisateurs d’explorer les données et d’obtenir des renseignements grâce à des graphiques et des cartes dynamiques. Le tableau de bord comprend divers graphiques et cartes qui présentent les aspects clés de notre analyse de manière simple et claire. La figure 2 montre les visualisations incluses dans le tableau de bord qui viennent étayer notre analyse globale.

Les principales fonctionnalités du tableau de bord sont les suivantes :

• Carte des ICR pour les fonctionnalités clés : affiche le nombre total de sacs de dons, de maisons, d’itinéraires, de bénévoles et le temps moyen passé, en fonction des critères sélectionnés.
• Nombre total de sacs de dons par paroisse : cette carte d’Edmonton montre la répartition des sacs de dons dans les différentes paroisses, offrant une comparaison claire de leur répartition dans la ville.
• Les dix paroisses les plus efficaces : met en évidence les 10 paroisses les plus efficaces, en présentant leurs performances à l’aide d’indicateurs clés.
• Nombre total de bénévoles : graphique à barres comparant le nombre de bénévoles au fil des ans, offrant un aperçu des tendances et des changements au fil du temps.
• Principaux contributeurs par paroisse : carte thermique montrant les contributions de chaque paroisse, utilisant des dégradés de couleurs pour mettre en évidence les zones où les contributions sont les plus élevées et les plus faibles.
• Graphique sacs de dons c. temps passé : visualisation comparant le nombre de sacs de dons au temps passé, donnant un aperçu de l’efficacité du processus de dons.

Apprentissage automatique

Avant de développer et d’évaluer des modèles d’apprentissage automatique, nous avons effectué plusieurs étapes de préparation des données afin de garantir des entrées de haute qualité.

Ingénierie des caractéristiques

Afin d’améliorer l’ensemble de données, nous avons introduit trois nouvelles caractéristiques :

• Nombre total de bénévoles : somme du nombre total de bénévoles adultes et du nombre total de bénévoles jeunes.
• Sacs de dons par porte : Le nombre de sacs de dons divisé par le nombre de portes.
• Sacs de dons par itinéraire : le nombre de sacs de dons divisé par le nombre d’itinéraires.

De plus, nous avons appliqué un encodage one-hot à la caractéristique « Paroisses » afin de traiter les données catégorielles et de garantir que toutes les variables étaient correctement formatées pour la modélisation.

Division et normalisation des données

Nous avons divisé les données en ensembles d’entraînement et de test, en utilisant les données de 2023 pour l’entraînement et celles de 2024 pour le test. Cette approche nous a permis de valider les performances du modèle sur des données non vues. Afin de maintenir la cohérence entre les caractéristiques numériques, nous avons appliqué une normalisation, en veillant à ce que toutes les valeurs soient sur une échelle comparable avant de les intégrer dans les modèles.

Développement et évaluation du modèle

Après la préparation des données, nous avons mis en œuvre et testé six modèles d’apprentissage automatique différents pour deux tâches de prédiction :

• Nombre total de sacs de dons.
• Temps passé pour chaque paroisse.

Chaque modèle a été évalué afin d’identifier le plus précis pour chaque tâche de prédiction. Les résultats ci-dessous résument leur rendement et leur efficacité.

Modèle	EMQ	EMQR	EAM	R²	R² ajusté
Linéaire Régression	3393,986256	58,257929	26,828851	-0,100185	-0,168338
Régression polynomiale	49,838645	7,059649	2,388835	0,983844	1,146869
Régression par arbre de décision	2356,665557	48,545500	8,232945	0,236070	0,188747
Régression par forêt aléatoire	1990,524740	44,615297	8,457754	0,354757	0,314786
Renforcement par gradation Régression	2144,987415	46,314009	8,164502	0,304687	0,261615
Régression des K plus proches voisins (K-Nearest Neighbors)	3092,228686	55,607811	17,474875	-0,002368	-0,064461
Tableau 5 : Indicateurs de rendement des modèles prédisant le nombre total de sacs de dons

D’après les résultats, le meilleur modèle pour prédire le nombre total de sacs de dons est la régression polynomiale, car il obtient les valeurs EMQ (7,059649) et EAM (2,388835) les plus faibles tout en atteignant le résultat R² le plus élevé (0,983844), ce qui indique un ajustement solide et une performance prédictive élevée.

Modèle	EMQ	EMQR	EAM	R²	R² ajusté
Linéaire Régression	1,583989	1,258566	0,917151	0,075887	2,771216
Régression polynomiale	0,708581	0,841772	0,634814	0,586608	1,014787
Régression par arbre de décision	0,192435	0,438674	0,356527	0,887732	1,215181
Régression par forêt aléatoire	0,216073	0,464836	0,377927	0,873941	1,241613
Régression par renforcement par gradation	0,256885	0,506838	0,391840	0,850131	1,287249
Régression des K plus proches voisins (K-Nearest Neighbors)	0,278344	0,527583	0,394887	0,837612	1,311244
Tableau 6 : Indicateurs de rendement pour les modèles prédisant le temps passé

Pour prédire le temps passé, le modèle de régression par arbre de décision se distingue comme le meilleur parmi les options répertoriées. Il obtient les valeurs EMQR (0,438674) et EAM (0,356527) les plus faibles, associées à un R² positif élevé (0,887732) et un R² ajusté (1,215181), ce qui indique une précision supérieure et une forte adéquation avec les données par rapport aux autres modèles.

Optimisation du modèle :

Pour le modèle de régression polynomiale utilisé pour prédire le nombre total de sacs de dons, nous avons choisi de ne pas effectuer de réglage supplémentaire afin d’éviter le risque de surajustement. Les mesures étant déjà acceptables, avec un résultat R² de 0,98, augmenter davantage la complexité du modèle pourrait entraîner une diminution de la généralisation et un surajustement des données d’apprentissage.

Analyse avancée :

Nous avons utilisé les modèles de régression polynomiale et d’arbre de décision pour prédire le nombre de sacs de dons et le temps passé par paroisse pour 2025. Vous trouverez ci-dessous quelques renseignements clés basés sur les valeurs prédites.

Le nombre prévu de sacs de dons pour l’année prochaine affiche une augmentation constante. Partant de 14 817 en 2023 et 14 751 en 2024, le nombre total de sacs de dons devrait augmenter pour atteindre 16 600 en 2025.

Les prévisions sur 12 mois concernant les sacs de dons révèlent les pieux les plus performants et les moins performants. Les trois pieux les plus performants, qui devraient contribuer le plus aux sacs de dons, sont Gateway, Bonnie Doon et Riverbend. En revanche, les trois pieux les moins performants, qui contribuent moins aux sacs de dons, sont YSA, Edmonton North et Riverbend.

Les prévisions sur 12 mois concernant les sacs de dons révèlent les paroisses les plus performantes et les moins performantes. Les 10 paroisses qui devraient contribuer le plus en termes de sacs de dons sont Lee Ridge, Crawford Plains, Silver Berry, Clareview, Blackmud Creek, Griesbach, Londonderry, Griesbach, Ellerslie, Rabbit Hill et Terwillegar. En revanche, les 10 paroisses les moins performantes, qui devraient contribuer moins de sacs de dons, sont Mill Creek YSA, Lago Lindo, Onoway, Whitemud Creek YSA, Devon, Beaumont, Wild Rose, Wainwright, Windsor Park et Pioneer. Ces renseignements montrent une variation notable dans les contributions aux dons entre les différentes paroisses.

Les trois pieux les plus efficaces (c’est-à-dire celles qui devraient générer le plus grand nombre de sacs de dons par unité de temps consacré) sont Gateway, Riverbend et Bonnie Doon. À l’inverse, les trois pieux les moins efficaces, c’est-à-dire celles qui devraient générer le moins de sacs de dons par unité de temps consacré, sont YSA, Edmonton North et Riverbend.

Les 10 paroisses les plus efficaces, c’est-à-dire celles qui devraient générer le plus grand nombre de sacs de dons par unité de temps passé, sont Lee Ridge, Silver Berry, Clareview, Rio Vista, Woodbend, Coronation Park, Londonderry, Greenfield, Clareview, Blackmud Creek et Griesbach. Ces paroisses devraient être plus efficaces pour convertir le temps passé en sacs de dons.

À l’inverse, les 10 paroisses les moins efficaces, c’est-à-dire ceux qui devraient générer le moins de sacs de dons par unité de temps passé, sont Mill Creek YSA, Lago Lindo Branch, Onoway, Whitemud Creek YSA, Devon, Beaumont, Strathcona Married Student, Wild Rose, Namao et Forest Heights. Ces paroisses devraient nécessiter plus de temps pour atteindre un nombre similaire de sacs de dons, ce qui reflète une moindre efficacité dans leurs efforts de collecte.

Déploiement

L’application finale a été divisée en six sections : la page de renseignements, la page du tableau de bord, la page des tendances, la page de prévision des sacs de dons, la page de prévision du temps passé et la page de l’application de cartographie des itinéraires. Chaque page possède une fonctionnalité distincte conçue pour fournir des renseignements spécifiques et utiles à ses utilisateurs, garantissant ainsi une expérience complète. Ensemble, ces sections permettent aux utilisateurs de naviguer facilement entre les différentes fonctionnalités, rendant les décisions basées sur les données plus accessibles et plus efficaces. La figure 8 montre la page du tableau de bord de l’application.

L’application a été déployée sur Tableau, où des visualisations interactives ont été créées pour représenter les tendances en matière de dons, la participation des bénévoles et les renseignements sur la cartographie des itinéraires.

• La cartographie des itinéraires a été encore améliorée grâce à Gradio de Hugging Face, qui a permis aux utilisateurs d’explorer de manière interactive les itinéraires de dons.
• Un robot conversationnel , également intégré à l’aide de Gradio, a fourni aux utilisateurs des réponses rapides aux questions relatives aux itinéraires et aux processus de dons.

Application de cartographie des itinéraires :

L’application de cartographie des itinéraires a été développée en réponse aux difficultés récurrentes du client pour générer des cartes précises et efficaces pour les itinéraires des bénévoles. Le processus précédent consistait à imprimer manuellement des parties de la carte d’Edmonton, à surligner les itinéraires à la main, puis à distribuer les cartes aux bénévoles, ce qui prenait beaucoup de temps et était source d’erreurs. Cette approche manuelle ralentissait non seulement les opérations, mais augmentait également le risque d’erreurs susceptibles d’affecter l’efficacité du processus de collecte des dons. Notre application simplifie et automatise la génération et la visualisation des itinéraires, améliorant ainsi l’efficacité globale, la précision et la facilité d’utilisation pour les bénévoles. Vous trouverez ci-dessous des images des cartes imprimées manuellement qui étaient utilisées auparavant, soulignant la nécessité d’une solution plus efficace.

L’application propose deux modes : le mode fixe et le mode personnalisé. Le mode fixe vise à numériser le processus de génération de cartes pour notre client, afin de rationaliser son flux de travail. Le mode personnalisé, quant à lui, est conçu pour la planification à long terme, générant des cartes basées sur les zones sensibles identifiées afin d’améliorer l’efficacité des itinéraires.

Pour générer des cartes en mode fixe, le client n’a qu’à sélectionner la paroisse et l’itinéraire souhaités, cliquer sur « Soumettre », télécharger la carte générée, puis l’envoyer facilement par courriel aux bénévoles. Ce processus simplifié élimine le besoin de créer manuellement des cartes, ce qui permet de gagner du temps et d’économiser des efforts. L’image fournie montre les résultats avant et après la génération de cartes à l’aide du mode fixe, soulignant l’efficacité et la facilité de la nouvelle approche.

Cette méthodologie met non seulement en évidence les points forts de l’analyse, mais montre également les domaines à améliorer en matière de collecte et de couverture des données afin d’optimiser les futurs processus décisionnels.

Résultats et conclusions

Le projet Edmonton Food Drive a permis d’obtenir plusieurs renseignements précieux et résultats pratiques grâce à l’analyse et à la modélisation des données collectées. Ces conclusions sont classées en plusieurs domaines clés d’amélioration opérationnelle : collecte de données, analyse de données, modélisation prédictive et déploiement d’applications.

Collecte de données

Observations clés :

Les données ont révélé des tendances notables d’une année sur l’autre, certaines paroisses affichant des schémas de dons constants, tandis que d’autres présentaient une variabilité importante dans les volumes de dons.

La paroisse de Belmead, bien qu’il ait fait l’objet d’une analyse détaillée, a mis en évidence les limites de l’exhaustivité des données, car tous les itinéraires n’ont pas été pris en compte en raison de la granularité des données rapportées par les bénévoles.

Analyse des données

Par rapport à la collecte alimentaire de 2023, les résultats de 2024 ont montré une diminution de plusieurs indicateurs clés : le nombre de sacs de dons, le nombre de bénévoles, le nombre de maisons et le temps moyen passé par itinéraire ont diminué respectivement de 0,4 %, 38,17 %, 38,17 % et 6,67 %.

Les meilleurs pieux en 2024 sont restés largement similaires à ceux de 2023, Gateway, Bonnie Doon, Riverbend, Edmonton North et YSA occupant les premières places du classement. Cependant, Riverbend et Bonnie Doon ont échangé leurs positions, ce qui indique un léger changement dans leur rendement relatif entre les deux années.

En 2024, Crawford Plains est resté dans le top 5, tout comme en 2023. De nouvelles paroisses, tels que Terwillegar Park et Griesbach, ont rejoint le haut du classement. En revanche, des paroisses tels que Coronation Park, Drayton Valley et Pioneer se sont retrouvés parmi les cinq derniers en 2024, remplaçant les paroisses en queue de peloton de l’année dernière, tels que Devon et Mill Creek YSA.

Modélisation prédictive

Prévision du nombre total de sacs de dons

Nous avons développé six modèles d’apprentissage automatique pour prédire le nombre total de sacs de dons pour chaque paroisse en 2025. Les principales conclusions de l’évaluation des modèles sont résumées ci-dessous :

Meilleur modèle : la régression polynomiale s’est révélée être le modèle le plus efficace, avec les valeurs EMQR (7,0596) et EAM (2,3888) les plus faibles, associées au score R² le plus élevé (0,9838). Ce modèle a su trouver un équilibre efficace entre simplicité et performance.

Observations clés : la régression polynomiale a surpassé les autres modèles, tels que la forêt aléatoire et le renforcement par gradation, grâce à sa capacité à saisir efficacement les relations non linéaires dans les données.

Prévision du temps passé

Six modèles ont été évalués pour prévoir le temps nécessaire pour effectuer les itinéraires de collecte. Les conclusions suivantes ont été tirées :

Meilleur modèle : la régression par arbre de décision a fourni les prévisions les plus précises, avec les valeurs EMQR (0,4387) et EAM (0,3565) les plus faibles, ainsi qu’un score R² élevé (0,8877) et un R² ajusté (1,2152). Ce modèle a su trouver un équilibre efficace entre simplicité et performance.

Observations clés : la régression par arbre de décision a surpassé la régression polynomiale et le gradient boosting pour cette tâche en raison de sa flexibilité dans le traitement des variations des données, telles que la complexité des itinéraires et les différences entre les bénévoles.

De plus, une analyse géospatiale a été intégrée pour concevoir des cartes numériques des itinéraires de collecte, identifiant les zones présentant le plus fort potentiel de dons. Cette tâche visait à rationaliser la logistique et à optimiser l’allocation des ressources lors des prochaines collectes.

Nous avons procédé à un réglage des hyperparamètres du modèle de régression décisionnelle pour prédire le temps passé, mais cela n’a pas donné lieu à des améliorations significatives. Le modèle ajusté a atteint une erreur moyenne quadratique (EMQ) de 0,2041, une erreur quadratique moyenne racine (EQMR) de 0,4517, une erreur absolue moyenne (EAM) de 0,3652, un R² de 0,8810 et un R² ajusté de 1,2282.

Ces visualisations issues de l’évaluation du modèle mettent en évidence les points forts du modèle, tels que ses faibles taux d’erreur et ses performances prédictives élevées pour la plupart des prédictions, tout en identifiant les domaines, comme les biais résiduels, qui pourraient être optimisés pour obtenir de meilleurs résultats.

Les modèles ont réussi à prédire à la fois les volumes de dons et le temps passé, permettant aux parties prenantes de prendre des décisions éclairées pour les futures collectes alimentaires.

Déploiement de l’application

L’application a été déployée afin de fournir aux parties prenantes une plateforme interactive et conviviale permettant de prédire les résultats des dons et d’améliorer la logistique. Le modèle le plus performant a été déployé sur Gradio de Hugging Face et intégré à Tableau afin de faciliter la prise de décision pour les futures collectes alimentaires.

Paramètres d’entrée de l’application pour la prédiction :

Paroisse : sélectionne la paroisse spécifique pour lequel des prédictions sont nécessaires.
Temps passé (minutes) : saisit le temps estimé que les bénévoles passent à parcourir les itinéraires.
Nombre de portes : saisit le nombre total de portes couvertes dans la paroisse sélectionnée.
Nombre d’itinéraires : permet aux utilisateurs de spécifier le nombre d’itinéraires inclus dans l’analyse.
Année : permet de faire des prévisions pour les futures collectes alimentaires, de 2025 à 2030.
Nombre total de bénévoles : spécifie le nombre de bénévoles affectés à la tâche.

L’application utilise les données fournies pour générer une valeur prévisionnelle du nombre total de sacs de dons. Cette prévision aide les parties prenantes à évaluer l’efficacité de leur planification et de leur allocation de ressources pour les collectes à venir.

Défis rencontrés :

Le projet de collecte alimentaire d’Edmonton a rencontré plusieurs défis qui ont eu un impact sur la collecte de données, l’analyse et la précision des prévisions. Ces défis, bien que importants, ont fourni des renseignements précieux pour améliorer les futures collectes alimentaires.

Limites de la collecte de données :

En raison de contraintes de ressources, les données n’ont été collectées qu’à partir de certains points de collecte à Bearspaw, Londonderry, Riverbend, Gateway et Bonnie Doon. Cette couverture limitée a donné lieu à des ensembles de données incomplets qui ne représentaient pas entièrement toutes les zones participantes à Edmonton.

Le fait que plusieurs bénévoles géraient le même itinéraire et déposaient un grand nombre de sacs de dons a entraîné des entrées de données incomplètes ou dupliquées, ce qui a compliqué davantage la précision des données collectées.

Incohérences dans la structure des ensembles de données :

Les ensembles de données pour 2023 et 2024 contenaient des divergences dues aux adaptations apportées au nouveau formulaire afin d’améliorer les saisies des utilisateurs. Bien que ces changements visaient à améliorer la convivialité, ils ont introduit des différences dans la structure des fonctionnalités, ce qui a nécessité des efforts importants pour harmoniser et normaliser les données en vue de leur analyse. De plus, l’absence de normes uniformes de saisie des données dans les différentes paroisses a contribué à des incohérences, créant des difficultés supplémentaires lors du prétraitement.

Écarts dans les prévisions :

Les chiffres prévisionnels de croissance des dons basés sur les données collectées ne correspondaient pas aux rapports internes du client, qui indiquaient une augmentation globale des dons en 2024 par rapport à 2023.

Pour remédier à cet écart, les données ont été réactualisées afin d’ajuster les chiffres de 2024 et de les rapprocher des tendances réelles.

Difficultés opérationnelles :

La granularité des renseignements sur les itinéraires a rendu difficile la standardisation des saisies de données dans plusieurs paroisses. L’absence d’un système centralisé de saisie des données a entraîné des variations dans la manière dont les données étaient enregistrées et soumises, ce qui a compliqué davantage l’analyse.

Conclusions et recommandations :

Afin d’améliorer l’efficacité globale, il convient d’envisager une répartition plus équilibrée des bénévoles, en mettant l’accent à la fois sur l’amélioration des performances des zones les moins performantes et sur le maintien de la dynamique dans les paroisses et les pieux les plus performants. Les recommandations suivantes sont proposées :

• La régression polynomiale est recommandée pour prévoir les volumes de dons, en particulier lorsqu’il s’agit de saisir des modèles complexes dans les données historiques.
• La régression par arbre de décision est idéale pour prédire le temps passé, fournissant des renseignements exploitables pour l’optimisation des itinéraires et la répartition des bénévoles.

Ces prévisions peuvent guider la planification et la répartition des ressources en identifiant les paroisses susceptibles de générer les volumes de dons les plus élevés et en estimant le temps nécessaire aux bénévoles pour parcourir efficacement les itinéraires, améliorant ainsi la coordination logistique.

L’amélioration continue des processus de collecte de données (p. ex., la normalisation des données sur les bénévoles et la numérisation des renseignements sur les itinéraires) renforcera encore la précision des prévisions et l’utilité de ces modèles.

En combinant les renseignements tirés des données et la modélisation prédictive, ce projet fournit des recommandations exploitables pour améliorer la logistique de l’initiative Edmonton’s Food Drive.

Le projet a atteint avec succès ses objectifs en recommandant des améliorations dans le processus de dons alimentaires de l’Edmonton Food Drive. Des outils permettant de prévoir les tendances en matière de dons et le temps nécessaire ont été mis en place, aidant les bénévoles et les organisateurs à mieux planifier. L’application de cartographie des itinéraires simplifie la coordination des bénévoles et permet de gagner un temps considérable par rapport aux processus manuels traditionnels. De plus, des tableaux de bord interactifs permettent aux parties prenantes de comprendre et d’analyser plus facilement les données, ce qui facilite la prise de décision. Dans l’ensemble, le projet rationalise les opérations et contribue à rendre la collecte de dons alimentaires plus efficace et plus efficiente.

Si vous avez des questions à propos de mon article ou si vous souhaitez en discuter davantage, je vous invite à Rencontrez les scientifiques des données, un événement au cours duquel les auteurs rencontrent les lecteurs, présentent leur sujet et discutent de leurs résultats.

Inscrivez-vous à l'événement Rencontrez les scientifiques des données. À bientôt!

Références

Efforts de collecte de fonds de la banque alimentaire d’Edmonton. (n.d.). Edmonton Journal.
https://edmontonjournal.com/news/local-news/edmontons-food-bank-fundraising (en anglais seulement)

Où construire des banques alimentaires : une approche basée sur l’apprentissage automatique. (n.d.). Université Purdue.
https://docs.lib.purdue.edu/cgi/viewcontent.cgi?article=1661&context=jpur (en anglais seulement)

Banque alimentaire d’Edmonton. (2024) Winter Gleanings 2024.
https://www.edmontonsfoodbank.com/documents/267/Winter_Gleanings_2024_-_Final.pdf (en anglais seulement)

Logiciel Web pour la gestion des banques alimentaires. (n.d.). Gao Group, Université Cornell.
https://gao.cee.cornell.edu/software-2/food-bank-operations-web-based-software/ (en anglais seulement)

Des chercheurs utilisent l’apprentissage automatique pour aider les banques alimentaires publiques à distribuer leurs denrées (2022). Salle de presse de l’université d’Auburn.
https://ocm.auburn.edu/newsroom/news_articles/2022/10/070927-researchers-machine-assists-food- pantries.php (en anglais seulement)

Où construire des banques alimentaires et des banques alimentaires : une approche d’apprentissage automatique à deux niveaux. (n.d.). arXiv. https://arxiv.org/pdf/2410.15420 (en anglais seulement)

Automatisation de la distribution alimentaire : le pouvoir de deux choix pour une allocation alimentaire dynamique et équitable. (2024). arXiv. https://arxiv.org/abs/2406.06363 (en anglais seulement)

Tableau de bord de la collecte alimentaire d’Edmonton. (2024). Tableau Public.
https://public.tableau.com/app/profile/kendrick.kent.moreno/viz/EFD2024Dashboard/EFDDashboard-Principal (en anglais seulement)

Gouvernement de l’Alberta. (n.d.). Évaluations foncières : région d’Edmonton. Tableau de bord régional de l’Alberta.
https://regionaldashboard.alberta.ca/region/edmonton/property-assessments/#/?from=2018&to=2022 (en anglais seulement)

Par : Divita Narang, Agence de la consommation en matière financière du Canada

Introduction

À l’ère moderne, l’intégration continue et le déploiement continu (CI/CD) sont des pratiques essentielles de génie logiciel et d’ingénierie des données qui permettent de simplifier le développement et la livraison grâce à l’automatisation. Ces méthodologies jouent un rôle clé dans l’atteinte de la maturité technique et dans la mise à l’échelle des projets (passage d’un environnement de validation de principe à un environnement de production).

Lorsque ces pratiques sont mises en application dans l’écosystème d’Azure (Azure Data Factory [ADF] et Azure DevOps) ou d’un autre fournisseur de boîte à outils ou d’infonuagique de votre choix, elles permettent aux équipes d’automatiser le déploiement de pipelines de données, de jeux de données, de variables, et de ressources connexes, ce qui permet de faire des mises à jour plus rapides, de gérer les versions et d’assurer l’uniformité des environnements tout au long du cycle de vie du développement.

Azure Data Factory (ADF) est un service d’infonuagique géré qui est conçu pour les processus complexes (extraction-transformation-chargement [ETL], extraction-chargement-transformation [ELT], et intégration de données). Ce service aide les utilisateurs à orchestrer les mouvements de données à vaste échelle au moyen d’un large éventail de fonctionnalités et de connecteurs intégrés tout en garantissant la sécurité grâce à des groupes Microsoft Entra (en anglais seulement) intégrés. ADF est conçu pour répondre efficacement aux besoins des organisations, par exemple déplacer des données d’un point A vers un point B tout en apportant des changements comme appliquer des formats et des types de données et bien plus encore. Par exemple, ADF peut ingérer les données d’une application frontale destinée aux clients et les intégrer dans une base de données. Ce point de terminaison peut ensuite être utilisé pour divers cas d’utilisation en aval, par exemple pour les rapports, les analyses, l’apprentissage automatique, l’intelligence artificielle, etc.

Azure DevOps est la suite complète d’outils de Microsoft pour la gestion des versions, l’automatisation, et la gestion de projet. Ce logiciel peut stocker les référentiels Git dans Azure Repos et activer l’intégration continue et le déploiement continu (CI/CD) au moyen d’Azure Pipelines, qui est utilisé pour le déploiement de projets de code. Azure Pipelines combine l’intégration continue, la mise à l’essai continue et la livraison continue pour concevoir, tester et livrer le code à de multiples environnements de destination.

À l’Agence de la consommation en matière financière du Canada (ACFC), nous utilisons largement ADF et Azure Pipelines pour gérer l’intégration et le déploiement des ressources de données à destination et à partir de points de terminaison comme Microsoft Dataverse, API Microsoft Graph et les bases de données SQL Server. Notre équipe de données en pleine croissance explore constamment des approches innovantes pour l’exécution des processus d’ingénierie des données.

Récemment, nous avons relevé le défi d’automatiser les pipelines de déploiement pour ADF. Antérieurement, les processus manuels associés aux déploiements prenaient généralement beaucoup de temps, soit entre deux et quatre heures pour un référentiel de code de taille moyenne. Le code ne pouvait être téléversé dans le nouvel environnement que manuellement ou à l’aide de scripts PowerShell, le téléchargement pouvant durer jusqu’à quelques minutes pour chaque fichier. De plus, le code devait être nettoyé et préparé manuellement pour les nouveaux environnements. Nous nous attendions à ce que le temps nécessaire pour exécuter ces tâches augmente en raison de la croissance, au fil du temps, de la taille des bases de code au sein des projets. Veuillez noter que le temps de déploiement peut varier considérablement, ce qui dépend de la taille de la base de code et de divers autres facteurs (en anglais seulement).

Même si ces efforts d’automatisation nous facilitent la tâche, il convient de noter que les processus manuels peuvent toujours être utilisés comme solution de remplacement en cas d’indisponibilité de membres de l’équipe, ou d’échec de processus automatisés ne pouvant pas être rapidement rétablis.

Même si l’éventail des pratiques CI/CD est vaste, pour le reste du présent article, nous allons mettre l’accent sur l’intégration continue et le déploiement continu dans le contexte du déplacement de ressources d’Azure Data Factory d’un environnement de niveau inférieur, comme un environnement de développement, vers un environnement de niveau supérieur, comme un environnement de simulation ou de production. Les pipelines peuvent être exécutés manuellement, en fonction d’un calendrier, ou être déclenchés par une modification du référentiel, comme une validation et fusion (commit/merge) à une branche particulière.

Aperçu de la solution

Dans cet article, nous allons mettre l’accent sur la solution illustrée dans l’architecture suivante :

Remarque : Dans Azure Data Factory, le code est fondé sur les modèles Azure Resource Manager (ARM). Il s’agit essentiellement de l’infrastructure en tant que code dans le format JavaScript Object Notation (JSON) (en anglais seulement). Ces fichiers définissent l’infrastructure et la configuration pour les ressources d’Azure. Tout comme le code d’application, le code d’infrastructure peut être stocké et versionné dans un référentiel source.

Prérequis de la solution

1. Contrôle de code source avec Git, fondé sur Azure DevOps
2. Parallélisme d’agent de pipeline activé pour le projet Azure DevOps (formulaire de demande de parallélisme)
3. Connexions de service sur Azure DevOps avec accès à des groupes de ressources pertinents où l’usine de données se trouve
4. Services liés dans Azure Data Factory et autres données d’authentification pertinentes stockées sous forme de secrets dans Azure Key Vault
5. Compte de stockage blob avec un accès en mode lecture et écriture pour stocker les modèles ARM

Intégration continue :

Les modifications aux codes sont publiées en utilisant le bouton de publication dans l’interface utilisateur d’ADF une fois le développement terminé sur la branche de collaboration et la demande de tirage exécutée sur la branche principale.

Lors de la publication, ADF prend en charge le processus de génération et de validation des modèles ARM. Les modèles générés contiennent toutes les ressources d’usine à données comme les pipelines, les jeux de données, les services liés, les environnements d’exécution d’intégration, les déclencheurs et plus encore. Toutes ces ressources sont susceptibles d’avoir des paramètres qui varient d’un environnement à l’autre. Ces paramètres doivent être attentivement validés, faute de quoi ils peuvent causer des erreurs de déploiement ou pire : un déploiement réussi avec des références incorrectes à des paramètres comme des données d’authentification inexactes pour un service lié (serveur SQL). Une bonne partie du temps consacré au développement a été utilisée pour trouver des solutions à ces difficultés, comme nous le verrons plus en détail dans les sections suivantes.

Configuration pour un pipeline de conception :

Pour la configuration d’un pipeline de conception, plusieurs tâches accessibles dans Azure Pipelines sont utilisées. Voici les étapes découplées :

1. Obtenez des ressources dans le pipeline de votre référentiel (repo) d’Azure DevOps et (ce qui est très important) sélectionnez « adf_publish » comme branche par défaut.
2. Utilisez la tâche « Publish Artifact » (publier l’artefact) pour déposer les artefacts à utiliser par le pipeline.
3. Utilisez la tâche « PowerShell Script » pour exécuter un script afin de remplacer tous les paramètres, ce qui vise à assurer leur compatibilité avec l’environnement cible. Par exemple, si le nom de la base de données de développement est « Dev-DB » dans le code source et que l’environnement cible est un environnement de simulation avec un nom de base de données comme « Stg-DB », le script PowerShell peut exécuter un remplacement de chaîne dans tous les fichiers pour toutes les références à des variables afin de veiller à ce que la bonne base de données cible y soit reflétée. Veuillez consulter cet exemple de code (en anglais seulement) pour en savoir plus.  
   Conseil de pro : Les premiers modèles ARM comprennent beaucoup de paramètres, mais il est préférable d’exécuter le script sur chaque fichier de modèle ARM. Il existe également une méthode permettant de modifier les paramètres en utilisant la fonction « Override Parameters » (outrepasser les paramètres) dans la section de mise en production du pipeline, un sujet que nous aborderons plus loin dans cet article.
4. Utilisez la tâche « Azure File Copy » (copie de fichier Azure) pour copier tous les modèles du dossier « linkedTemplates » de votre référentiel dans un compte de stockage. Le stockage de modèles ARM dans le stockage blob crée une redondance pour le stockage d’un code modifié à l’étape 3, ce qui est souhaitable. Il s’agit également d’une pratique requise pour les bases de code de grande taille.

Conseil de pro : Nettoyez le conteneur de stockage avant de copier les modèles. De plus, créez des conteneurs distincts pour différents types d’environnements (simulation, essais d’acceptation par les utilisateurs, production, etc.), ce qui vous aidera à rester organisé et à réduire les risques de déploiement erroné.

Après la configuration, le pipeline aura à peu près l’air de ce qui suit :

Configuration pour un pipeline de mise en production :

1. Créez une tâche vide en sélectionnant l’option « Empty job » dans la section « Releases » d’Azure DevOps.
2. Ajoutez les artefacts du référentiel traités par le pipeline de conception créé précédemment.
3. Cherchez et créez une tâche « PowerShell ». Indiquez le chemin d’accès au script de prédéploiement et de postdéploiement. Ce script est utilisé pour arrêter les déclencheurs avant le déploiement et les redémarrer après. Il est fourni par Microsoft : Scripts de prédéploiement et de postdéploiement CI/CD — Azure Data Factory | Microsoft Learn. Vous pouvez télécharger le script dans le référentiel du projet pour l’utiliser plus facilement.
4. Cherchez et créez une tâche « ARM Template Deployment » (déploiement de modèle ARM) et remplissez les champs en fonction du pipeline précédent et de la configuration du projet.
   1. Dans la section « Override template parameters » (outrepasser les paramètres du modèle), des paramètres sont déjà téléchargés en fonction du fichier « ArmTemplateParameters_master.json » qui fait partie des artefacts du projet. Ces paramètres peuvent être personnalisés davantage en fonction du fichier de configuration « arm-template-parameters-definition.json » dans Azure Data Factory : Utiliser des paramètres personnalisés avec le modèle Resource Manager — Azure Data Factory | Microsoft Learn.

Si vous choisissez cette option, vous n’avez pas besoin d’exécuter l’étape 3 dans la configuration du pipeline de conception. Voici un exemple d’utilisation de paramètres personnalisés pour Stockage Blob Azure, Azure SQL Database et Dataverse (services de données communs pour les applications).

Cette approche pourrait ne pas être adaptée s’il y a plus de 256 paramètres, car il s’agit du nombre maximal permis. Si la refactorisation du code est une possibilité pour votre projet, prenez en considération les solutions de rechange suivantes :

• Réduisez le nombre de paramètres en utilisant des paramètres globaux dans la mesure du possible.
• Prenez note des paramètres qui sont implicitement hérités et retirez-les lorsqu’ils sont redondants. Par exemple, les paramètres de jeux de données sont hérités des services liés et il pourrait ne pas être nécessaire de les ajouter aux jeux de données s’ils sont déjà présents dans les services liés.
• Si vous ne jugez pas que cela va compliquer la maintenance et la création de nouvelles ressources, divisez la solution en de multiples usines de données pour les solutions de grande taille.
• Utilisez des scripts PowerShell pour nettoyer et préparer le code pour les différents environnements utilisés dans cette solution.

Après la configuration, le pipeline de mise en production aura l’air à peu près de ce qui suit :
Notez bien que la tâche de prédéploiement utilise le même script que la tâche de postdéploiement, mais que les arguments de script sont différents.

Dépannage, mise à l’essai et quelques autres conseils de pro :

1. Pour commencer à mettre à l’essai la nouvelle solution, il peut être utile de créer une usine de données test et de la déployer dans Azure Data Factory pour s’assurer que tous les paramètres sont copiés correctement et que les connexions de services liés et de jeux de données fonctionnent bien.
2. Pendant et après les déploiements : surveillez la journalisation au niveau du groupe de ressources dans l’onglet « Deployments » (déploiements) du portail Azure d’Azure Data Factory afin de vérifier la progression et obtenir des journaux d’erreurs plus descriptifs.
3. Si les champs temporels dans les déclencheurs de la fenêtre bascule (tumbling window) ne sont pas compatibles avec l’environnement cible, le déploiement va échouer. Une solution simple consiste à assurer la concordance des champs temporels avec les déclencheurs dans les environnements de déploiement cibles.
4. Les environnements d’exécution d’intégration peuvent également être incompatibles dans différents environnements. Une solution rapide consiste à supprimer ou à mettre à jour les références aux environnements d’exécution d’intégration en utilisant le script PowerShell à l’étape 2 du pipeline de conception.
5. Utilisez un correctif (hotfix) si l’usine de données déployée comporte un bogue qui doit être corrigé dès que possible.  
6. Si les paramètres globaux sont spécifiques à chaque environnement, la case « Include global parameters » (inclure les paramètres globaux) peut être décochée dans la section de configuration du modèle ARM dans ADF. De cette manière, il y aura moins de paramètres à personnaliser lors du déploiement.
7. Les déclencheurs d’intégration continue peuvent être activés à la fois dans le pipeline et dans le niveau de mise en production en fonction des calendriers, des demandes de tirage ou des artefacts.
8. Pour les déploiements critiques, les approbations préalables aux déploiements peuvent également être configurées au niveau de mise en production, par exemple pour les déploiements dans un environnement de production.
9. Déterminez à l’avance si vous allez choisir le mode de déploiement incrémentiel ou complet, surtout s’il y a différences dans la façon dont les environnements utilisés stockent les ressources.  
10. Durant la phase de mise à l’essai, les modèles ARM peuvent être manuellement exportés vers un espace de stockage local et les scripts PowerShell créés pour la gestion des paramètres peuvent être exécutés localement afin d’accélérer les essais et le dépannage.

Évaluation

C’est une façon parmi d’autres de procéder aux déploiements automatisés dans Azure Data Factory pour différents environnements. Nous avons choisi de concevoir cette solution en utilisant les services Azure, car c’est le fournisseur de services d’infonuagique choisi par l’Agence. Ce processus nous a aidés à explorer les solutions de données pour l’automatisation de l’intégration continue et du déploiement continu. De plus, il démontre qu’il est possible d’économiser beaucoup de temps dans le cadre des déploiements. Par ailleurs, en raison de la courbe d’apprentissage, comme c’est le cas pour tout nouveau processus, nous avons constaté des erreurs et avons passé beaucoup de temps à résoudre les problèmes, ce qui nous a amenés à découvrir des singularités dans le processus, qui font l’objet de conseils de pro ci-dessus. Ces conseils peuvent s’avérer très utiles et vous faire gagner du temps et des efforts en vous aidant à éviter les pièges les plus courants et à simplifier vos processus de déploiement fondés sur Azure.

Conclusion

Nous sommes déterminés à améliorer notre environnement opérationnel pour les déploiements itératifs en perfectionnant continuellement nos processus d’intégration continue et de déploiement continu. De plus, nous recueillons activement les commentaires des membres de notre équipe afin de déterminer les points à améliorer dans le cadre de nos mises à jour.

Compte tenu du rythme rapide de l’innovation et de la disponibilité croissante de fonctionnalités intégrées dans les produits de données de Microsoft, nous recommandons également aux lecteurs de consulter les ressources suivantes : Publication automatisée pour CI/CD, Déployer des modèles ARM liés à VSTS et Déploiements dans Microsoft Fabric.

Restez à l’affût pour obtenir de plus amples renseignements et des mises à jour sur ces sujets dans nos prochains articles!

Si vous avez des questions à propos de mon article ou si vous souhaitez en discuter davantage, je vous invite à Rencontrez les scientifiques des données, un événement au cours duquel les auteurs rencontrent les lecteurs, présentent leur sujet et discutent de leurs résultats.

Inscrivez-vous à l'événement Rencontrez les scientifiques des données.  À bientôt!

Par Andy Fan, Rafael Moraes; Agriculture et Agroalimentaire Canada

Introduction

Après le dévoilement de l’équipe gagnante du premier Défi des données de la fonction publique canadienne, nous avons eu l’incroyable chance de bâtir l’agent conversationnel AgriGuichet, un outil de recherche assisté par l’intelligence artificielle (IA) générative qui fournit des renseignements agricoles fédéraux, provinciaux et territoriaux utiles aux Canadiens. Accessible sur le site Web AgriGuichet.ca, cet outil donne aux visiteurs un autre moyen d’accéder à des renseignements utiles sur l’agriculture canadienne. Il est le résultat d’un incroyable effort de collaboration interfonctionnelle entre l’industrie, le milieu universitaire et d’autres ministères pour améliorer la prestation de services à la population canadienne.

Dans le présent article, nous nous concentrons sur l’échange des enseignements tirés des aspects techniques et politiques de la mise en œuvre d’AgriGuichet. Voici quelques-unes de nos principales conclusions et recommandations : l’utilisation de l’adaptation par enrichissement contextuel (AEC) pour améliorer la précision de l’IA, la nécessité de garde-fous pour garantir des interactions éthiques et sûres avec l’IA et le rôle d’une solide gouvernance des données et de la conformité aux politiques dans la création de systèmes d’IA responsables.

Rédactique

La rédactique (en anglais seulement) est un domaine fascinant et complexe au confluent de l’expertise humaine et de l’IA. Son principal objectif est de peaufiner les requêtes de manière à obtenir les réponses les plus précises, impartiales et pertinentes de la part des systèmes d’IA, en particulier ceux qui font appel à des modèles linguistiques. Cette discipline est très importante, car contrairement aux interfaces habituelles, les systèmes de langage naturel dépendent beaucoup des subtilités, des nuances et de la complexité du langage humain. La conception d’invites efficaces tient donc à la fois de l’art et de la science, et exige non seulement une compréhension profonde des technologies d’IA sous-jacentes, mais aussi des caractéristiques propres au langage et à la cognition humains.

Il s’agit également d’un processus continu et itératif qui porte sur l’essai et la mise au point d’invites pour s’assurer que les systèmes d’IA génèrent des réponses précises, impartiales et pertinentes. Une telle mise au point incessante est essentielle pour éviter d’introduire des préjugés involontaires, puisque même de subtiles modifications dans la formulation peuvent avoir des répercussions considérables sur le comportement de l’IA. L’évaluation périodique et un équilibre judicieux des éléments techniques et linguistiques contribuent à maintenir la fiabilité et l’impartialité des résultats de l’IA.

Il est important de reconnaître que chaque grand modèle de langage (GML) aura sa propre invite optimale qui suscitera la meilleure performance, différents modèles pouvant répondre différemment à la même invite en raison de variations dans leur architecture et leurs données d’entraînement. Cependant, le processus de découverte de cette invite optimale reste cohérent d’un modèle à l’autre. Il comporte le même cycle itératif d’expérimentation, d’évaluation et de mise au point pour s’assurer que les invites amènent l’IA à produire des résultats précis et impartiaux.

Technique de l’adaptation par enrichissement contextuel

L’adaptation par enrichissement contextuel (AEC) est un cadre qui réunit la recherche de données à partir d’une source de connaissances – une base de données ou un ensemble de documents, par exemple – et les capacités génératives d’un modèle de langage. Sans AEC, même les GML soigneusement perfectionnés produisent des « hallucinations » lorsqu’on les interroge sur des sujets rarement abordés dans les ensembles de données ayant servi à leur apprentissage. Pour qu’un système d’IA donne des renseignements plus précis, l’AEC doit être intégrée à la rédactique. La figure 1 ci-dessous illustre le processus d’AEC. Si l’on veut créer un système d’AEC sans partir de zéro, on peut aussi exploiter des bibliothèques de source ouverte comme Langchain (en anglais seulement) ou Llama Index (en anglais seulement), ou encore des solutions exclusives (comme Azure Cognitive Search). Dans le cas de l’agent conversationnel d’AgriGuichet, nous avons choisi de créer notre propre système d’AEC. Cela a donné une solution plus souple qui répond à nos propres besoins.

L’AEC fonctionne habituellement comme suit :

• Récupération. À partir de l’historique d’une conversation, le système d’AEC récupère tout d’abord les documents ou les éléments d’information pertinents dans une base de données ou un corpus. Il repose la plupart du temps sur un modèle d’extraction ou un algorithme de recherche optimisé pour trouver rapidement le contenu le plus pertinent dans un vaste corpus d’informations.
• Augmentation. Les documents récupérés servent ensuite à augmenter les données d’entrées introduites dans le modèle génératif. Cela veut dire que le modèle de langage reçoit comme contexte tant l’historique de la conversation que le contenu de ces documents.
• Génération. Un modèle linguistique génératif produit ensuite une réponse à partir de cet apport augmenté. Le modèle produit à l’aide de ces données supplémentaires des réponses plus précises, plus détaillées et plus adaptées au contexte.

Les cadres d’AEC sont particulièrement utiles si la tâche d’un modèle de langage consiste à consulter des renseignements externes ou à répondre à des questions fondées sur des faits qui ne sont pas nécessairement stockés dans ses paramètres. Répondre à des questions portant sur des domaines ouverts et vérifier des faits sont deux exemples de telles tâches. L’étape de la récupération permet au système d’extraire des renseignements à jour ou particuliers auxquels le modèle linguistique seul n’aurait pas accès à partir des données d’entraînement.

Garde-fous

Les garde-fous sont des règles ou des contraintes préétablies mises en place pour empêcher un système d’IA de générer un contenu inapproprié, partial ou déséquilibré. Ils agissent de deux façons : d’une part, ils éloignent le processus de génération de certains sujets ou phrases; et d’autre part, ils traitent à leur tour les données de sortie de l’IA pour supprimer ou réviser le contenu problématique. Ces garde-fous sont essentiels pour plusieurs raisons expliquées ci-dessous.

1. Contrôle du contenu. Les garde-fous empêchent la création d’un contenu inapproprié, offensant ou préjudiciable, notamment des propos haineux, du matériel explicite et tout autre contenu susceptible de ne pas convenir à tous les publics.
2. Principes d’éthique. Les garde-fous veillent à ce que les GML et les agents conversationnels adhèrent à des règles d’éthique. Ils peuvent empêcher l’approbation d’activités illicites ou susceptibles de porter préjudice aux utilisateurs et utilisatrices ou à des tiers.
3. Atténuation des préjugés. Malgré tous les efforts de leurs créateurs et créatrices, les GML peuvent parfois perpétuer sinon amplifier les préjugés présents dans leurs données d’apprentissage. On peut concevoir des garde-fous qui relèvent et atténuent ces préjugés. Ainsi, les interactions sont plus justes et équilibrées.
4. Sûreté. En imposant des restrictions au comportement d’un système d’IA, ces garde-fous renforcent la sécurité de l’utilisateur ou de l’utilisatrice, car ils empêchent le système de donner des réponses dangereuses ou erronées. Ils s’avèrent particulièrement importants dans des domaines où les risques sont élevés, comme les soins de santé ou les conseils juridiques, où tout renseignement inexact peut avoir de graves conséquences.
5. Confiance des utilisateurs et conformité Garantir que le système agit de façon prévisible et en conformité avec des normes socialement acceptables contribue à renforcer la confiance des utilisateurs. Les garde-fous permettent aussi de satisfaire à diverses normes réglementaires et exigences juridiques, un aspect incontournable du déploiement d’agents conversationnels dans plusieurs secteurs économiques.
6. Prévention des abus. Les garde-fous jouent un autre rôle important, celui d’empêcher les utilisateurs et utilisatrices de manipuler ou de « tromper » le système d’AI pour l’amener à se comporter autrement que prévu, comme générer du contenu malveillant ou participer à des pratiques trompeuses.
7. Interactions ciblées. Les garde-fous aident le système à rester pertinent et à s’adapter à l’intention de l’utilisateur ou de l’utilisatrice, ce qui rehausse l’expérience de l’utilisateur ou de l’utilisatrice, puisqu’ils empêchent l’agent conversationnel de produire des réponses non pertinentes ou aberrantes.

Pour intégrer ces garde-fous de manière efficace, il faut d’abord cerner les vulnérabilités susceptibles d’inciter le modèle à devenir partial et comprendre le contexte dans lequel l’impartialité pourrait être compromise. Par exemple, si un modèle d’IA génère des résumés d’actualités objectifs, il doit traiter objectivement des entités et des sujets variés et ne pas exprimer une opinion. Dans ce scénario, les garde-fous pourraient aller du plus simple, soit éliminer certains mots chargés d’opinion, au plus complexe, c’est-à-dire mettre en œuvre des contrôles plus sophistiqués d’analyse des sentiments qui signalent tout langage, excessivement positif ou négatif, articulé autour de certains sujets précis. Enfin, s’assurer qu’un outil d’IA ne réponde qu’aux invites pertinentes est une question de discrimination et d’orientation claire dans le système de garde-fous. L’IA doit faire la différence entre les questions auxquelles elle peut répondre et les questions non pertinentes, inappropriées ou qui dépassent le cadre de ses fonctions. Ici encore, les garde-fous jouent un rôle essentiel. Si on lui donne des directives précises et des exemples clairs sur ce qui constitue une requête pertinente, l’IA peut esquiver toute question qui ne répond pas à ces critères ou simplement refuser d’y répondre.

Par exemple, dans le cadre de la mise en place de l’agent conversationnel AgriGuichet, seules les requêtes ne portant que sur des renseignements sur l’agriculture canadienne contenus dans ce système seraient pertinentes. Il a donc fallu établir des garde-fous pour fournir des réponses complètes et ciblées aux questions portant sur l’agriculture, tout en évitant ou en redirigeant celles qui ont trait à d’autres données sans rapport. Un exemple simplifié de la mise en œuvre a été l’inclusion du message suivant dans l’invite du système : « Ne pas répondre aux questions sans rapport avec les données fournies par le système AgriGuichet ».

En pratique, les garde-fous peuvent revêtir de nombreuses formes. Selon notre expérience de la mise en place d’AgriGuichet, nous recommandons au moins :

• des systèmes de filtrage qui détectent et bloquent les types de contenus indésirables;
• des fonctions de limite du débit pour éviter toute utilisation abusive du système;
• des listes d’invites explicites de « choses à ne pas dire » ou des règles de comportement;
• des processus d’examen ou des mécanismes d’interventions humaines (comme enregistrer puis analyser les invites et les réponses des utilisateurs et des utilisatrices). Microsoft propose un bel exemple d’invite garde-fous :

La mise en œuvre de garde-fous dans les systèmes d’IA est cruciale, mais difficile. Il faut les concevoir avec soin pour qu’ils puissent traiter diverses entrées sans perdre leur précision. Une maintenance constante est également nécessaire pour que les garde-fous demeurent efficaces alors que les modèles linguistiques et le contenu évoluent. Malgré ces difficultés, les garde-fous sont essentiels pour garantir des interactions sûres et responsables avec l’IA.

Gestion et gouvernance des données

Les résultats d’un modèle génératif appuyé par l’AEC dépendent directement de la qualité des données sous-jacentes qu’il consulte (en anglais seulement). AgriGuichet est le fruit d’années de gestion de données et de pratiques de gouvernance rigoureuses de la part de l’équipe responsable de cet agent conversationnel. Ces pratiques ont mené à la création d’une base de données de haute qualité et clairement organisée sur les programmes et les services d’agriculture, accessibles depuis le site Web d’AgriGuichet. Dans ce contexte, de bonnes pratiques de gestion et de gouvernance des données peuvent améliorer la précision et la pertinence des textes générés, puisqu’elles garantissent que les sources de données sont fiables, uniformes et à jour. Voici quelques recommandations qui aideront à exploiter tous les avantages de la gestion et de la gouvernance des données :

• Établir une stratégie de données claire et exhaustive qui énonce la vision, les objectifs et les principes de la gestion et de la gouvernance des données.
• Mettre en œuvre une architecture de données robuste et souple qui prend en charge l’intégration, l’interopérabilité et l’accessibilité de diverses sources de données.
• Adopter un cadre de qualité des données (voir l’orientation connexe du Secrétariat du Conseil du Trésor) qui assure que les sources de données sont valides, exhaustives, à jour et exactes.
• Appliquer un modèle de sécurité des données qui protège la confidentialité, l’intégrité et la disponibilité des sources de données et des réponses générées.
• Créer une structure de gouvernance des données qui attribue les rôles, les responsabilités et les obligations de rendre compte en matière de gestion et gouvernance des données.
• Contrôler et évaluer le rendement et les résultats de la gestion et de la gouvernance des données et apporter des améliorations continues en fonction des commentaires reçus et des pratiques exemplaires.

Facteurs d’ordre politique à prendre en considération

Au moment de la création d’applications d’IA dans le contexte du secteur public fédéral, outre les politiques et les lignes directrices existantes (Directive sur la prise de décisions automatisée, Portée de la directive, Guide sur l’utilisation de l’intelligence artificielle générative), certains facteurs d’ordre politique doivent être pris en compte pour s’assurer que les applications sont créées de manière responsable et éthique. Nous avons constaté que ces facteurs ont joué un rôle crucial dans l’élaboration de notre conception et de notre approche du développement d’AgriGuichet, et nous recommandons vivement de les consulter au cours de la phase de conception.
Les facteurs d’ordre politique plus généraux dont on doit tenir compte à cet égard sont les suivants :

• Conformité. S’assurer de concevoir et de déployer l’agent conversationnel conformément aux politiques et aux lois applicables et suivre les différentes pratiques exemplaires, observer les conseils d’autres autorités publiques et se conformer aux règlements propres à l’industrie. Veiller également à ce que toutes les politiques et lignes directrices internes ou du ministère ou de l’organisme soient respectées. Outre la conformité, s’assurer que des mesures appropriées sont en place pour atténuer les risques juridiques et réglementaires. Pour ce faire, demander des conseils juridiques, mettre en œuvre des processus de conformité et se tenir au courant de l’évolution du paysage juridique et réglementaire.
• Évaluation des risques. Évaluer et traiter les menaces à la cybersécurité potentielles, les préjugés, les atteintes à la vie privée et les risques de générer des hallucinations ou des renseignements erronés. Si le système est accessible à la population, tenir compte de son opinion ou des événements en cours qui pourraient avoir une incidence sur la perception de l’outil.
• Mobilisation des partenaires. Collaborer le plus tôt possible de manière proactive avec des partenaires clés, comme les conseillers juridiques, les experts en protection de la vie privée et en sécurité, les agents de coordination de l’analyse comparative entre les sexes plus (ACS+), les représentants de la diversité, de l’équité et de l’inclusion, d’autres partenaires (p. ex. ceux issus des collectivités autochtones) et les autorités chargées des processus internes (architecture d’entreprise, gouvernance de projet, etc.) pour assurer une démarche coordonnée, conforme et holistique.
• Transparence. Afin d’éviter toute confusion ou tout malentendu, il est vital d’informer les utilisateurs et utilisateurs qu’ils communiquent avec un outil d’IA et non avec une personne humaine. Donner plus de renseignements sur le système, comme une description de son fonctionnement, des données qu’il utilise et des mesures prises pour garantir sa qualité, peut aussi contribuer à rehausser la confiance.
• Surveillance des préjugés et de la discrimination. Surveiller le rendement des outils d’IA pour prévenir les préjugés et la discrimination, ce qui assure que cette technologie soit utilisée de manière responsable et équitable. Saisir les interactions entre les utilisateurs et le système afin de les passer périodiquement en revue tout au long du cycle de vie.
• Éducation. Donner aux utilisateurs des directives claires sur la meilleure façon d’interagir avec l’agent conversationnel, et les conseiller sur la formulation de leurs invites ou de leurs requêtes et sur les renseignements à donner à l’agent. Veiller à former les développeurs et développeuses de l’agent conversationnel et à leur donner les ressources nécessaires pour les aider à bien exploiter cette technologie et à comprendre clairement ses capacités, ses limites et les pratiques exemplaires de son utilisation responsable.
• Développement itératif. Comprendre la nécessité d’améliorer sans cesse l’outil pour qu’il évolue au fil des changements réglementaires et des percées technologiques. L’une des façons d’y parvenir serait d’adopter une approche agile.
• Durabilité. Veiller à ce que la conception et la mise en œuvre des outils d’IA soient guidées par un engagement en faveur de la durabilité environnementale afin de soutenir la viabilité à long terme et d’atténuer toute incidence négative sur l’environnement ou sur les populations et les collectivités.

Conclusion

La rédactique, en tant que discipline, est cruciale, puisqu’elle permet de s’assurer que les systèmes d’IA donnent à leurs utilisateurs et utilisatrices des réponses non seulement exactes et conformes aux faits, mais aussi impartiales, éthiques et adaptées au contexte. L’adaptation par enrichissement contextuel (AEC) est une grande percée en ce sens, puisque ce mécanisme procure aux systèmes d’IA un accès dynamique à des données externes qui peuvent ainsi les intégrer à leurs réponses. Ces systèmes sont ainsi plus fiables et plus solidement ancrés sur les faits, particulièrement s’ils doivent puiser dans un vaste corpus de connaissances en constante évolution.

La mise en place de garde-fous éthiques et de pratiques rigoureuses en gestion des données, ainsi que la conformité envers les politiques, les lois et les règlements en vigueur, peut aider les systèmes d’IA à mieux tenir compte des normes sociales et à inspirer la confiance des utilisateurs et utilisatrices, favorisant ainsi des interactions plus fructueuses entre les parties concernées.

Les recherches liées à AgriGuichet et les améliorations qui seront apportées à cet agent conversationnel pourraient être axées sur la mise au point des techniques de rédactique pour améliorer la pertinence contextuelle, l’élargissement du champ d’application de l’AEC, pour intégrer plus dynamiquement les données, et l’amélioration de l’évolutivité et de l’efficacité de l’IA pour offrir de meilleurs services aux utilisateurs et utilisatrices tout en préservant la sécurité et la fiabilité.

Comme l’IA est en constante évolution et qu’elle s’intègre de plus en plus aux environnements personnels et professionnels, les efforts déployés en rédactique façonneront sûrement en profondeur les interactions entre l’humain et l’IA. Pour adhérer aux principes d’exactitude, d’impartialité et de pertinence, il faudra veiller à ce que les techniques de rédactique suivent l’évolution des modèles d’IA. L’application adéquate de la rédactique et de garde-fous à l’IA permettra à celle-ci d’atteindre son plein potentiel à titre d’outil qui élargit les connaissances, facilite la prise de décision et améliore la productivité sans compromettre les principes d’éthique ou la confiance des utilisateurs.

Si vous avez des questions à propos de mon article ou si vous souhaitez en discuter davantage, je vous invite à Rencontrez les scientifiques des données, un événement au cours duquel les auteurs rencontrent les lecteurs, présentent leur sujet et discutent de leurs résultats.

Inscrivez-vous à l'événement Rencontrez les scientifiques des données.  À bientôt!

Bibliographie

Agriculture et Agroalimentaire Canada (2024). Récupéré sur AgPal: https://agpal.ca/fr/accueil

Aslanyan, V. (2024, 11 juin). Next-Gen Large Language Models: The Retrieval-Augmented Generation (RAG) Handbook. Récupéré sur freeCodeCamp: https://www.freecodecamp.org/news/retrieval-augmented-generation-rag-handbook/#heading-11-what-is-rag-an-overview (en anglais seulement)

Gao, Y. (2024). Retrieval-Augmented Generation for Large Language Models: A Survey. arXiv. Récupéré sur https://arxiv.org/abs/2312.10997 (en anglais seulement)

Forum mondial des gouvernements. (2023). Quatre de vos idées ont atteint la finale. Récupéré sur Défi des données de la fonction publique: https://canada.governmentdatachallenge.com/fr/

Gouvernement du Canada. (2023, 16 août). Garde-fous canadiens pour l'IA générative : un code de pratique. Récupéré sur ISED-ISDE: https://ised-isde.canada.ca/site/isde/fr/consultation-lelaboration-dun-code-pratique-canadien-pour-systemes-dintelligence-artificielle/garde-fous-canadiens-pour-lia-generative-code-pratique

Gouvernement du Canada. (2024, 1 février ). Orientation sur la qualité des données. Récupéré sur Canada.ca: https ://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/gestion-information/orientation-qualite-donnees

Gouvernement du Canada. (2024, 26 juillet). Guide sur l’utilisation de l’intelligence artificielle générative. Récupéré sur Canada.ca: https://www.canada.ca/fr/gouvernement/systeme/gouvernement -numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/guide-utilisation-intelligence-artificielle-generative.html

IBM. (2024). What is prompt engineering? Récupéré sur IMB Topics: https://www.ibm.com/topics/prompt-engineering (en anglais seulement)

LangChain. (s.d.). LangChain Main Page. Récupéré sur LangChain: https://www.langchain.com/ (en anglais seulement)

LlamaIndex. (2024). Turn your enterprise data into production-ready LLM applications. Récupéré sur LlamaIndex: https://www.llamaindex.ai (en anglais seulement)

Sajid, H. (2024, 18 mars). Data Strategy Roadmap: Creating a Data Strategy Framework For Your Organization. Récupéré sur Zuar: https://www.zuar.com/blog/data-strategy-roadmap-creating-a-data-strategy-framework/#:~:text=Hence%2C%20a%20data%20strategy%20framework%20is%20a%20long-term%2C,to%20make%20informed%20decisions%20and%20achieve%20business%20goals. (en anglais seulement).

Secrétariat du Conseil du Trésor du Canada. (2023, 25 avril). Directive sur la prise de décisions automatisée. Récupéré sur TBS-SCT: https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592

Par Pierre Zwiller-Panicz, Margarita Novikova, Kirsten Gaudreau, Matthew Paslawski, Logement, Infrastructures et Collectivités Canada.

Sommaire

La présente étude vise à élaborer et à mettre en œuvre un modèle d’apprentissage automatique pour prévoir les dépenses dans les programmes de subventions et de contributions de Logement, Infrastructures et Collectivités Canada, en étant axée sur les demandes de remboursement. Une analyse comparative des algorithmes a permis de déterminer que la forêt aléatoire était la plus performante, celle-ci aboutissant à un R au carré (R²) de 39 %. Intégré à un tableau de bord Power BI, le modèle permet une analyse des dépenses en temps réel, une visualisation des tendances et une comparaison entre les prévisions et les dépenses réelles. Sa mise en œuvre a réduit le temps de prévision de trois mois à un seul, ce qui a permis d’améliorer la planification financière et l’engagement des parties prenantes.

Le modèle a eu une incidence opérationnelle considérable, en facilitant les discussions entre les conseillers en gestion financière et les responsables de programmes, tout en fournissant des données en temps réel favorisant une meilleure prise de décision. Bien que son applicabilité soit limitée aux programmes comportant des projets établis et qu’il donne de moins bons résultats pour les programmes à base de répartition, il s’est avéré très efficace pour les demandes de remboursement comptant 30 projets actifs ou plus.
Fort de ce succès, le modèle constitue une avancée précieuse dans le domaine de la prévision financière. Sa mise en œuvre ouvre la voie à d’autres améliorations, ce qui favorise une adoption plus large et des améliorations continues en matière d’exactitude prédictive et d’applicabilité des programmes.

1. Introduction

Logement, Infrastructures et Collectivités Canada (LICC) joue un rôle essentiel dans le financement et le soutien de projets d’infrastructure qui contribuent à bâtir des collectivités durables, inclusives et résilientes face aux changements climatiques. Les programmes de subventions et de contributions (S et C) du ministère nécessitent des prévisions financières détaillées et pluriannuelles afin d’assurer une répartition efficace des fonds publics. Toutefois, la nature imprévisible des projets d’infrastructure conduit souvent à des estimations de flux de trésorerie surestimées, ce qui donne lieu à des fonds non dépensés et des inefficacités budgétaires. Alors que les programmes de S et C de LICC continuent de croître, le besoin d’une solution de prévision évolutive et fondée sur les données est devenu de plus en plus évident.

Pour relever ces défis, LICC a mis en œuvre un modèle de prévision fondé sur l’apprentissage automatique (AA) en mai 2024. Cet outil novateur s’appuie sur des analyses avancées pour améliorer les prévisions des dépenses, renforcer la précision de la planification financière et optimiser l’allocation budgétaire. En intégrant ce modèle à l’ensemble des outils de prévision existants de LICC, le ministère vise à réduire les inefficacités, à appuyer la prise de décisions fondée sur les données et à renforcer sa capacité à financer des initiatives d’infrastructure essentielles.

Le présent article porte sur l’élaboration et la mise en œuvre du modèle de prévision des dépenses en S et C basé sur l’AA. Il débute par un aperçu du contexte et des objectifs du projet, suivi du développement technique du modèle et de son intégration dans les processus de prévision financière de LICC. Les résultats obtenus et leur incidence sur la planification financière sont ensuite analysés. L’article se termine par des recommandations d’améliorations futures et d’applications potentielles du modèle.

2. Contexte du modèle de prévision par apprentissage automatique

2.1. Contexte et évolution des initiatives

Au cours des exercices financiers 2016-2017 et 2017-2018, environ 64 % des autorisations prévues de Logement, Infrastructures et Collectivités Canada (LICC) en matière de subventions et de contributions (S et C) sont arrivés à expiration, ce qui a entraîné une demande des organismes centraux de la prévisibilité du profil financier des programmes d’infrastructure. En réponse à cette situation, LICC a entrepris plusieurs initiatives :

• 2019-2020 : Création d’une équipe ministérielle spéciale chargée d’examiner tous les aspects de la gestion du financement sous forme de contributions, afin de mieux harmoniser les crédits avec les dépenses réelles.
• 2020-2022 : Mise en place d’un centre d’expertise en subventions et contributions (CES et C) doté de compétences axées sur les finances pour remédier à ces enjeux.

2.2. Défis des prévisions actuelles en matière de subventions et de contributions

Depuis sa création, le CES et C a élaboré une série de méthodes et de processus de prévision qui ont contribué à réduire le financement sous forme de contributions et de subventions inutilisées à l’échelle du ministère. Toutefois, ces méthodes ont engendré une charge de travail importante pour les conseillers en gestion financière (CGF), en raison du manque de normalisation entre les différents programmes et de la complexité liée à la production de prévisions précises.

2.3. Objectif et finalité du modèle

Pour combler ces lacunes, les partenaires du centre d’expertise en subventions et contributions collaborent avec le Bureau du dirigeant principal des données afin d’étudier une approche fondée sur les données, laquelle pourrait compléter et renforcer l’ensemble existant de méthodes de prévision de LICC. Cette approche vise à fournir une base plus fiable pour les prévisions des CGF, tout en allégeant leur charge de travail.

L’objectif principal du modèle d’apprentissage automatique est d’améliorer les prévisions des S et C à LICC, en mettant au point un outil automatisé fondé sur les données historiques de S et C. Ce modèle est conçu pour s’adapter aux programmes actuels et futurs, améliorant ainsi l’efficacité globale du processus de prévision pluriannuelle des S et C au sein du ministère.

3. Élaboration et mise en œuvre du modèle de prévision par apprentissage automatique

La présente section porte sur l’élaboration du modèle de prévision par apprentissage automatique (AA), depuis ses sources de données jusqu’à l’outil interactif définitif. Elle fournit des prévisions sur la façon dont le modèle a été conçu, intégré et déployé pour fournir aux CGF des renseignements en temps réel.

3.1. Sources de données

La première étape de l’élaboration du modèle de prévision par apprentissage automatique a consisté à extraire les données du Système de gestion de l’information sur les programmes (PIMS) de LICC, comme l’illustre la figure 1 – Pipeline de données. Le PIMS fournissait des renseignements détaillés sur le financement et les dépenses des programmes à trois niveaux : les programmes, les ententes de contribution et les projets. Les variables clés comprenaient ce qui suit :

Variable	Définition	Données-échantillons
Numéro d’identification du projet	Identifiant unique pour chaque projet	13176
Numéro d’identification de l’entente de contribution	Identifiant unique liant le projet à une entente de financement précise	2
Exercice financier	Exercice financier associé aux dépenses et flux de trésorerie du projet	2007-2008
Flux de trésorerie du projet	Rentrée ou sortie de fonds prévue ou réelle pour le projet	500 000
Dépenses du projet	Montant dépensé pour le projet durant une période donnée	500 000
Montant total par entente de contribution	Budget total alloué dans le cadre d’une entente précise	2 000 000
Montant total par contribution au programme	Financement global attribué au programme concernant plusieurs ententes	2 000 000
Statut du projet	Indique l’état actuel du projet (p. ex. actif, terminé, en attente)	Terminé

3.2 Prétraitement des données

3.2.1. Nettoyage et transformation

Le processus de nettoyage des données a débuté par l’identification et la suppression des entrées vides qui ne concernaient pas le modèle de prévision financière. L’ensemble de données définitif ne comprenait que les projets ayant les statuts « fermé », « terminé » et « en cours de mise en œuvre », garantissant ainsi une évaluation complète à toutes les étapes du cycle de vie des projets, ce qui a renforcé la robustesse et l’adaptabilité du modèle.

Ensuite, des manipulations ont été effectuées afin de générer des variables clés comme les dépenses moyennes, les dépenses antérieures, les montants restants et les valeurs des ententes de contribution. Un processus de désagrégation a enfin permis d’uniformiser les données à un niveau de granularité cohérent. Initialement structurées à plusieurs niveaux — projet, entente de contribution et programme — les données ont finalement été consolidées au niveau du projet afin de correspondre au cadre analytique du modèle de prévision.

Pour améliorer la capacité du modèle à cerner les contraintes financières et à surveiller les plafonds de dépenses, plusieurs variables dérivées ont été créées à partir des variables existantes. Ces variables comprennent le montant total du projet, le montant cumulatif du projet, les dépenses cumulatives antérieures, les dépenses récentes, la durée de vie du projet, la moyenne des dépenses précédentes, les fonds restants et les fonds restants au début de chaque exercice financier. En intégrant ces variables, on a enrichi l’ensemble de données d’analyses financières supplémentaires, ce qui a permis d’assurer une représentation plus précise des dynamiques de dépenses des projets.

Nouvelles variables	Définition
Montant total du projet	Le budget total alloué à un projet pour toute sa durée. Il s’agit de la somme de toutes les dépenses prévues pour le projet.
Montant cumulatif du projet	Le montant total dépensé pour le projet depuis son lancement jusqu’à l’exercice financier en cours. Cela permet de suivre le pourcentage du budget déjà utilisé.
Dépenses cumulatives précédentes	La somme des dépenses de tous les exercices précédents avant l’exercice en cours. Cette variable exclut les dépenses de l’année en cours, mais fournit un contexte financier historique.
Dépenses récentes	Les dépenses de l’exercice financier le plus récent, ce qui reflète les tendances de dépenses actuelles.
Cycle de vie du projet	Le nombre total d’années pendant lesquelles le projet est censé être actif, de son année de début à son achèvement prévu.
Dépenses moyennes précédentes	Le montant moyen dépensé par année lors des exercices précédents. Ce montant est calculé comme suit : dépenses cumulatives précédentes / (année en cours-année de début).
Fonds restants	Le budget total du projet moins les dépenses cumulatives. Cela représente les fonds encore disponibles pour les années futures.
Fonds restants au début de chaque exercice financier	Le montant d’argent non dépensé au début d’un nouvel exercice financier, avant que de nouvelles dépenses ne soient effectuées.
Montant	Une variable dérivée utilisée pour améliorer la précision des prévisions. Étant donné que les dépenses futures sont initialement de 0, le modèle a tendance à prédire des valeurs irréalistes. La variable Montant remplace les dépenses futures manquantes par les flux de trésorerie prévus (décaissements futurs prévus), tout en conservant les dépenses antérieures inchangées.

3.2.2. Segmentation

Une fois l’ensemble de données nettoyé et transformé, l’étape suivante a consisté à analyser la distribution des dépenses de projet afin d’orienter la méthodologie de modélisation. Comme l’illustre la figure 2 – Distribution des montants des projets, l’ensemble de données présentait une forte hétérogénéité : 95 % des projets ne représentaient que 5 % de la contribution financière totale du ministère, tandis que les 5 % restants représentaient 95 % des dépenses.

Compte tenu des disparités importantes dans les dépenses de projets, nos collègues des finances ont initialement recommandé une approche de segmentation. Leur classification manuelle reposait sur les montants des projets afin de tenir compte de ce déséquilibre. Pour affiner cette approche, nous avons étudié une méthodologie de segmentation plus avancée. Plutôt que de segmenter selon le montant du projet, notre analyse a montré que la durée du projet offrait une meilleure différenciation. En effet, lors de la comparaison des résultats, la durée du projet a permis d’obtenir une plus grande homogénéité au sein des groupes, ce qui a donné lieu à des segmentations plus cohérentes et à une meilleure performance prédictive. Au cours de la phase d’élaboration, le passage du critère de segmentation du coût total du projet à la durée du projet a permis de réduire l’erreur absolue moyenne (EAM) du modèle de forêt aléatoire d’au moins 300 000. Cette première catégorisation des projets en importance relative élevée (> 5 ans) et en importance relative faible (< 5 ans) a entraîné une amélioration mesurable de la performance du modèle.

3.2.3. Analyse en composantes principales

Pour traiter la multicolinéarité entre les variables clés, nous avons intégré une analyse en composantes principales (ACP). Une analyse du facteur d’inflation de la variance a révélé une forte colinéarité, comme l’illustre la figure 3, notamment entre les variables financières comme le montant total du projet, le montant cumulé du projet et les fonds restants. Cette redondance présentait un risque de distorsion des prédictions, en particulier pour les programmes de grande envergure comme le Programme d’infrastructure Investir dans le Canada^{Note de bas de page 1}.

En appliquant l’ACP, nous avons transformé les variables d’origine en composantes orthogonales, ce qui rend bien compte de la variance maximale dans un espace de dimension réduite. L’analyse de la variance expliquée a montré que cinq composantes conservaient environ 90 % de la variance totale, préservant ainsi la majeure partie de l’information de l’ensemble de données tout en réduisant la dimensionnalité. Ce compromis permet d’atténuer la multicolinéarité tout en maintenant le pouvoir prédictif des variables clés.

L’ACP a été utilisée pour réduire la multicolinéarité parmi les variables financières tout en préservant les caractéristiques les plus informatives. La figure 5 : Résultats de l’analyse en composantes principales illustre les charges de cette méthode, qui représentent la force avec laquelle chaque variable d’origine contribue à une composante principale donnée.

Pour améliorer l’interprétabilité, les composantes principales ont été renommées en fonction de leurs charges dominantes.

• Composante principale 1 : Financement et échelle du projet – Cette composante est influencée par le montant total de la contribution au programme (TOTAL_PROGRAM_CONTRIBUTION_AMT [0,41]), le montant total du projet (project_total_amount [0,41]) et le montant cumulatif du projet (cumulative_project_amount) [0,37]. Elle représente la portée financière globale d’un projet, en mettant l’accent sur le financement total disponible.
• Composante principale 2 : Ressources restantes – Cette composante représente la disponibilité des fonds non dépensés, principalement déterminée par les fonds restants (Remaining [0,46]) et les fonds restants au début de l’exercice (Remaining_start_year [0,41]). Elle indique que des fonds sont encore accessibles pour les projets en cours.
• Composante principale 3 : Ressources initiales – Cette composante est relativement influencée par le montant total de la contribution au programme (TOTAL_PROGRAM_CONTRIBUTION_AMT [0,21]), le montant total du projet (project_total_amount [0,10]) et le montant cumulatif du projet (cumulative_project_amount [0,04]), ce qui sous-entend qu’elle est liée à l’allocation initiale des ressources financières au début d’un projet.
• Composante principale 4 : Durée du projet – Cette composante est fortement corrélée avec la durée de vie du projet (project_lifetime [0,70]), indiquant qu’elle prend en compte la longévité du projet et son lien avec les tendances de dépenses antérieures.
• Composante principale 5 : Contributions au cycle de vie – Cette composante représente l’équilibre financier tout au long du cycle de vie d’un projet, la durée de vie du projet (project_lifetime [0,61]) et les dépenses antérieures (previous_spend [0,26]) constituant une contribution importante.

En intégrant l’ACP dans notre pipeline de modélisation, nous avons efficacement résolu les problèmes de colinéarité présents dans l’ensemble de données d’origine, tout en améliorant la stabilité et l’interprétabilité du modèle.

L’analyse a également fait ressortir un point important : si la majorité de la variance n’est pas prise en compte dans un petit nombre de composantes, cela peut indiquer une structure de données complexe ou des relations non linéaires. Dans ce cas, des méthodes comme l’ACP à noyaux, la méthode t-SNE ou la méthode UMAP pourraient être plus adaptées. Cependant, puisque L’ACP à cinq composantes permet de conserver 90 % de la variance, elle reste un choix pertinent pour la réduction de la dimensionnalité dans ce contexte. De futurs travaux pourraient porter sur des méthodes d’encodage non linéaires pour déterminer si une autre approche pourrait offrir de meilleures performances.

4. Élaboration du modèle de prévision par apprentissage automatique pour les subventions et les contributions

Une fois la phase de prétraitement terminée, l’étape suivante a consisté à construire un modèle de prévision robuste. Cela a supposé la sélection d’un algorithme approprié, l’ajustement des hyperparamètres et l’évaluation des performances afin de garantir une précision adaptée à des projets de tailles variées. Étant donné la complexité des données financières, notre approche a mis l’accent sur l’interprétabilité, la stabilité et l’harmonisation avec les besoins opérationnels.

4.1. Ensemble de données définitif

Variable	Définition	Données-échantillons
Numéro d’identification du projet	Identifiant unique attribué à chaque projet.	13176
Numéro d’identification de l’entente de contribution	Identifiant unique liant le projet à une entente de financement précise.	2
Exercice financier	Exercice financier associé aux dépenses et aux flux de trésorerie du projet.	2007-2008
Flux de trésorerie du projet	Flux de trésorerie projeté ou réel (rentrées et sorties) du projet.	500 000
Dépenses du projet	Montant dépensé pour le projet au cours d’une période donnée.	500 000
Montant total par entente de contribution	Budget total alloué dans le cadre d’une entente précise.	2 000 000
Statut du projet	État actuel du projet (p. ex. actif, terminé, en attente).	Terminé
Montant	Variable dérivée utilisée pour améliorer la précision des prévisions. Variable cible.	500 000
Composante principale 1	Financement et échelle du projet : représente la portée financière globale du projet, en mettant l’accent sur le financement total disponible.	-0.68
Composante principale 2	Ressources restantes : indique que des fonds sont encore accessibles pour les projets en cours.	0.97
Composante principale 3	Ressources initiales : relatif à l’allocation initiale des ressources financières au début du projet.	-1.34
Composante principale 4	Durée du projet : reflète la longévité du projet et son lien avec les tendances de dépenses antérieures.	-0.19
Composante principale 5	Contributions au cycle de vie : représente l’équilibre financier tout au long du cycle de vie du projet, la durée de vie et les dépenses antérieures constituant un apport important.	-0.08

Remarque : Étant donné que la segmentation faisait partie des scénarios de test, nous avons initialement conservé deux ensembles de données distincts (df_matérialité_élevée et df_matérialité_faible [df_high and df_low]) en regroupant les projets en fonction de leur seuil d’importance relative (matérialité).

4.2. Entraînement du modèle

L’ensemble de données a été structuré sous forme de série chronologique, couvrant les exercices financiers de 2003-2004 à 2023-2024. Il a été divisé en un ensemble d’entraînement (75 %) et un ensemble de tests (25 %), en veillant à utiliser les données antérieures pour prévoir les dépenses à venir. Une fois entraîné, le modèle a été utilisé pour prédire les dépenses de l’exercice financier en cours (2024-2025) pour réaliser des projections pour les trois années suivantes. Le processus d’entraînement était itératif, ce qui a permis de peaufiner les modèles pour optimiser les performances tout en maintenant leur stabilité.

4.3. Comparaison des modèles

Plusieurs modèles ont été évalués, notamment le modèle de forêt aléatoire, l’amplification du gradient (Gradient Boosting) et l’arbre de décision à gradient amplifié extrême (XGBoost), en fonction de leur précision prédictive et de leur capacité à bien rendre compte des schémas présents dans les données financières. Étant donné que les dépenses suivent une évolution séquentielle dans le temps, les modèles devaient prendre en compte les dépendances temporelles et les tendances sous-jacentes.

Chaque modèle présente des caractéristiques distinctes :

• Laforêt aléatoire, une méthode d’ensemble, a permis de représenter efficacement des interactions complexes, ce qui en fait un bon candidat pour la prévision financière.
• L’amplification du gradient a permis d’affiner les prédictions grâce à un apprentissage itératif, améliorant ainsi la précision.
• L’arbre de décision à gradient amplifié extrême, une version optimisée de l’amplification du gradient, a offert une précision accrue tout en limitant le surapprentissage.

Les performances des modèles ont été évaluées à l’aide de deux mesures clés :

• R² (coefficient de détermination) : mesure dans quelle mesure le modèle explique la variance des dépenses.
• EAM (erreur absolue moyenne) : quantifie l’erreur moyenne de prédiction, fournissant une mesure claire de la précision financière.

4.4. Évaluation des performances du modèle

La section qui suit présente les mesures utilisées pour comparer les différents modèles. L’objectif était de trouver un équilibre entre précision prédictive, stabilité et interprétabilité, tout en tenant compte de la complexité des données financières.

Scénarios	Caractéristiques	Meilleure performance du modèle (mesures)
Scénario 1	Sans segmentation Analyse en composantes principales (ACP)	Forêt aléatoire (EAM : 137 570 ; R² : 93 %) Surapprentissage
Scénario 2	Sans segmentation ACP Limite des valeurs aberrantes	Forêt aléatoire (EAM : 852 243 ; R² : 36 %)
Scénario 3	Sans segmentation ACP Limite des valeurs aberrantes estimateurs n = 100, profondeur maximale = 10, nombre minimal d’échantillons par feuille = 5, état aléatoire = 42	Forêt aléatoire (EAM : 888 558 ; R² : 37 %)
Scénario 4	Sans segmentation ACP Limite des valeurs aberrantes Pondération pour les années plus récentes estimateurs n = 100, profondeur maximale = 10, nombre minimal d’échantillons par feuille = 5, état aléatoire = 42	Forêt aléatoire (EAM : 888 526 ; R² : 81 %)
Scénario 5	Sans segmentation ACP Limite des valeurs aberrantes Optimisation automatique des hyperparamètres	Forêt aléatoire (EAM : 758 012 ; R² : 40 %)

4.5. Évaluation de la performance du modèle – Éléments à prendre en considération

Afin d’optimiser la performance du modèle, plusieurs découpages d’ensembles de données ont été évalués, notamment des séparations de 25 % à 30 % ainsi que des découpages automatisés. Chaque scénario a été testé pour analyser la façon dont les différentes partitions des données d’entraînement et d’essais influaient sur la précision et la généralisabilité du modèle. L’approche de découpage automatisé a également été envisagée afin de garantir la robustesse du modèle face à divers types de partitionnement. Cette vérification exhaustive a permis de déterminer la configuration de découpage la plus efficace pour améliorer les capacités prédictives du modèle.

Après optimisation du découpage, nous avons évalué l’incidence de la segmentation et de l’ACP sur les performances du modèle. Bien que la segmentation ait été initialement prévue pour améliorer la précision, les tests ont démontré que la supprimer tout en conservant l’ACP permettait d’obtenir des prévisions plus stables et plus précises. Au départ, la segmentation avait conduit à la création de deux ensembles de données distincts, regroupant les projets selon des critères prédéfinis. Cependant, une analyse plus poussée a révélé qu’un ensemble de données unifié offrait une meilleure cohérence, facilitait la mise en œuvre du modèle et améliorait l’extensibilité. Cette découverte a mis en évidence l’efficacité de la réduction de la dimension pour saisir les principales tendances tout en minimisant le bruit. Par conséquent, la priorité a été accordée à l’ACP comme technique principale pour gérer la complexité des données et garantir un modèle de prévision plus robuste et généralisable.

Enfin, nous avons effectué un réglage des hyperparamètres à la fois manuellement et par optimisation automatique. Toutefois, ce réglage n’a pas toujours donné lieu à des améliorations importantes. Par exemple, un modèle de forêt aléatoire optimisé a permis d’obtenir une EAM légèrement inférieure (811 547) et un R² supérieur (39 %), mais ce gain marginal ne justifiait pas la complexité supplémentaire. Dans certains cas, le réglage des hyperparamètres a même introduit un surapprentissage, renforçant ainsi la fiabilité de la configuration par défaut plus simple.

4.6. Meilleurs Résultats du modèle

Notre analyse a révélé que le modèle de forêt aléatoire dominait systématiquement les autres en équilibrant précision prédictive et cohérence avec les prévisions financières. Parmi les configurations testées, le meilleur modèle était le modèle de forêt aléatoire (EAM : 852 243, R² : 36 %), lequel a permis d’estimer les dépenses à 4,8 milliards pour 2024-2025 et à 5,2 milliards pour 2025-2026, ce qui le rendait le plus proche des prévisions du centre d’expertise en subventions et contributions. La formule utilisée pour calculer la précision est la suivante :

4.7. Limites du modèle de prévision par apprentissage automatique

Malgré des résultats prometteurs, le modèle de prévision basé sur l’apprentissage automatique (AA) présente plusieurs limites qui doivent être prises en compte. Les programmes sans enregistrements de projet dans le système ne peuvent pas être modélisés, car le modèle doit connaître l’existence d’un projet pour générer une prévision. De plus, le modèle a été conçu pour prévoir les demandes de remboursement dans le cadre des programmes à exécution directe. Il est donc moins précis lorsqu’il s’agit d’autres types de paiements, comme les subventions, les avances ou les paiements basés sur des jalons. Le modèle donne également des résultats moins précis pour les programmes de subventions et de contributions (S et C) fondés sur l’allocation ou le transfert. Enfin, la précision du modèle diminue pour ce qui est des projets individuels, lesquels peuvent présenter des comportements de dépenses atypiques.

Ces limites signifient que le modèle donne actuellement les meilleurs résultats pour les programmes à exécution directe comptant 30 projets actifs ou plus dans le système et pour lesquels la majorité des demandes sont basées sur des remboursements.

5. Résultats pour les opérations

5.1. Façon de mettre l’apprentissage automatique à la disposition des équipes opérationnelles

Pour améliorer l’interprétation des résultats du modèle, les dépenses prévues ont été intégrées dans un tableau de bord existant utilisé par les conseillers en gestion financière (CGF) (figure 7). Ce tableau de bord présente visuellement les tendances de dépenses, ce qui permet de comparer les dépenses réelles, les prévisions générées manuellement par les CGF et celles du modèle d’apprentissage automatique (AA).

Le tableau de bord interactif comprend également des fonctionnalités de rapports personnalisés, ce qui permet aux utilisateurs d’adapter leur affichage en sélectionnant des critères précis, comme la province, le programme ou l’exercice financier. Cette flexibilité garantit que les utilisateurs peuvent adapter l’exploration des données à leurs besoins d’analyse particuliers. De plus, la nature interactive de la visualisation permet aux utilisateurs de survoler un point de la courbe pour afficher les valeurs exactes de chaque exercice, offrant une exploration des données plus intuitive et détaillée. Cette combinaison de rapports dynamiques et de visualisations interactives permet une analyse approfondie et facilite la prise de décisions basées sur les résultats du modèle d’AA.

5.2. Répercussions sur les activités

Le modèle d’AA a été mis en œuvre en mai 2024 pour prévoir les dépenses des programmes de subventions et de contributions (S et C) pour les exercices 2024-2025 à 2027-2028. Il a généré des prévisions pluriannuelles pour neuf des programmes de S et C du ministère, ce qui représente environ 80 % du financement total de ces programmes. La précision du modèle sera évaluée en avril 2025 et en avril 2026, à la fin des exercices 2024-2025 et 2025-2026, respectivement.

La mise en œuvre du modèle a permis de rationaliser le processus de prévision, réduisant le temps requis de trois mois à un mois. Cela a été rendu possible en fournissant aux CGF une prévision de référence, générée par le modèle d’AA, ce qui a facilité les discussions avec leurs programmes respectifs et permis d’harmoniser les attentes avant le processus de collecte des flux de trésorerie des bénéficiaires.

De plus, le tableau de bord intégré soutient les discussions continues avec les parties prenantes en s’appuyant sur des données à jour dans le cadre de la préparation des rapports réguliers du ministère.

6. Conclusion et prochaines étapes

En conclusion, la présente étude met en évidence le potentiel considérable de la mise en œuvre d’un modèle de prévision basé sur l’AA dans le cadre de la prédiction des dépenses pour les programmes de S et C de Logement, Infrastructures, et Collectivités Canada. Le modèle démontre un haut niveau de précision lorsqu’il est comparé aux dépenses historiques et est actuellement mis à l’essai par rapport aux dépenses réelles au cours des deux prochaines années, dans l’espoir d’optimiser le financement des subventions et des contributions, de réduire les crédits inutilisés dans les comptes publics et de rationaliser les processus financiers. Malgré les défis et les limites évoqués, les résultats globaux sont prometteurs quant à l’amélioration de la prise de décision financière et de l’efficacité opérationnelle.

Le succès de cette initiative a été officiellement reconnu en décembre 2024, lorsque le projet a reçu le prix de l’innovation 2024 du contrôleur général, soulignant son incidence considérable sur la gestion financière. Depuis, le modèle a suscité l’intérêt de plusieurs ministères, ce qui a donné lieu à des consultations en vue de son application à plus grande échelle. Les efforts continus en vue de promouvoir son adoption témoignent d’une reconnaissance croissante du potentiel des solutions basées sur l’AA pour améliorer les prévisions financières et l’allocation des ressources dans le secteur public.

En outre, le projet a été présélectionné pour l’édition 2025-2026 du Défi des données de la fonction publique. Cette reconnaissance met en lumière l’intérêt croissant de plusieurs ministères pour l’adoption de cet outil de prévision basé sur l’AA. Les efforts constants pour favoriser son adoption soulignent la reconnaissance croissante du potentiel des solutions d’apprentissage automatique pour améliorer les prévisions financières et optimiser l’allocation des ressources dans le secteur public.

Si vous avez des questions à propos de mon article ou si vous souhaitez en discuter davantage, je vous invite à Rencontrez les scientifiques des données, un événement au cours duquel les auteurs rencontrent les lecteurs, présentent leur sujet et discutent de leurs résultats.

Inscrivez-vous à l'événement Rencontrez les scientifiques des données.  À bientôt!

Abonnez-vous au bulletin d'information du Réseau de la science des données pour la fonction publique fédérale pour rester au fait des dernières nouvelles de la science des données.

par Stany Nzobonimpa, Mohamed Abou Hamed, Ilia Korotkine, Tiffany Gao, Logement, Infrastructures et Collectivités Canada

Remerciements

Les auteurs souhaitent remercier les personnes suivantes pour leur contribution et leur soutien au projet : Kate Burnett-Isaacs, directrice, Science des données et Matt Steeves, directeur principal de l’Ingénierie, des Opérations techniques et des Projets – Grands ponts et Projets.

Introduction

Dans le domaine de la science des données, le recensement et le signalement d’événements, tels que des points de données qui s’écartent de manière considérable du comportement normal ou attendu, sont connus sous le nom de détection d’anomalie. Les anomalies présentent un intérêt particulier pour les scientifiques de données, car elles signalent des problèmes sous-jacents qui éveillent des soupçons et justifient généralement de procéder à une enquête. Diverses techniques statistiques ont de tout temps été appliquées pour répondre aux questions relatives aux anomalies, et les progrès en matière d’intelligence artificielle (IA) ont fait de cet exercice l’une des applications les plus connues des approches et des cadres relatifs à l’apprentissage automatique.

Dans cet article, nous présentons et examinons les principales constatations d’un projet appliquant la détection d’anomalies aux données de capteurs. Le projet a été réalisé au sein de LICC par une équipe pluridisciplinaire de scientifiques de données et d’ingénieurs. Bien que le projet se déroule en plusieurs étapes, l’article présente les méthodes et les résultats de la première phase, au cours de laquelle les données de capteurs d’un pont fédéral ont été utilisées pour la détection précoce des relevés anormaux.

L’article est structuré comme suit : nous commençons par une brève revue de la littérature pertinente et récente sur la détection des anomalies et ses applications, où nous montrons que les méthodes de détection des anomalies dans les données ont évolué et continuent d’évoluer. Nous présentons par la suite la problématique, les méthodes et les résultats de cette première étape du projet. Plus particulièrement, nous montrons que l’approche nous a permis de signaler de manière proactive, plus rapidement et de manière moins laborieuse, des anomalies dans les données de capteurs générées qui auraient pu ne pas être détectées autrement. En effet, nos résultats montrent que pour la période d’avril 2020 à septembre 2024, un certain nombre de relevés de capteurs ont été correctement signalés comme des anomalies en utilisant les méthodes que nous présentons dans cet article. La conclusion précise les prochaines étapes du projet.

Revue de la littérature

L’application de l’apprentissage automatique pour la détection des anomalies

La détection d’anomalies est depuis longtemps un sujet d’intérêt dans le domaine de l’exploration de données, qui a jeté les bases de nombreuses approches modernes d’apprentissage automatique. Les travaux fondamentaux dans le domaine de l’exploration de données ont largement étudié les techniques de détection des anomalies, notamment les méthodes fondées sur le regroupement, la distance et la densité. Ainsi, la détection des anomalies est l’une des principales applications de la technologie d’apprentissage automatique qui est utilisée par les praticiens de l’IA depuis des décennies (Nassif et coll., 2021). Dans sa forme la plus simple, la détection des anomalies est connue sous le nom de détection des valeurs aberrantes et consiste à signaler les points de données qui s’écartent de manière considérable de la majorité des données ou qui ne s’y conforment pas. Les multiples applications de la détection des anomalies dans des domaines aussi divers que la recherche médicale, la cybersécurité, la fraude financière et l’application de la loi ont suscité l’intérêt des chercheurs et des praticiens et ont donné lieu à une littérature florissante sur le sujet (Chandola et coll., 2009).

Historiquement, la détection des anomalies pouvait être réalisée manuellement en examinant et en filtrant les données et en utilisant la connaissance du contexte pour fournir des renseignements sur les comportements détectés. Au fur et à mesure que les ensembles de données s’étoffent, les approches statistiques s’avèrent utiles pour détecter les anomalies. Par exemple, Soule et coll. (2005) ont proposé une combinaison de filtrage avec des filtres de Kalman et d’autres techniques statistiques pour détecter un grand volume d’anomalies dans les grands réseaux. Les auteurs affirment que la détection des anomalies peut toujours être considérée comme un problème de test d’hypothèse; ils utilisent également les comportements, les moyennes résiduelles et les changements de variance dans le temps pour comparer quatre approches statistiques différentes de la détection des anomalies (p. 333-338).

Soule et coll. (2005, p. 334) soutiennent que les courbes caractéristiques de la performance d’un test (courbes ROC) sont fondées sur des tests d’hypothèses et que toute méthode de détection d’anomalies s’appuiera à un moment donné sur un test d’hypothèse pour vérifier si une hypothèse (p. ex. l’existence d’une anomalie) est vraie ou fausse. Un test (courbes ROC) permet de détecter les anomalies ou les données binaires normales. Une autre technique qui a été appliquée à la détection d’anomalies est une technique appelée « statistiques robustes » par Rousseeuw et Hubert (2017). Ces auteurs ont mis en pratique ces techniques en utilisant l’ajustement de la majorité des données et en signalant les anomalies une fois l’ajustement des données normales terminé. Par exemple, les auteurs proposent d’estimer les emplacements et les échelles unidimensionnelles à l’aide de moyennes, de médianes et d’écarts-types.

Alors que les techniques, comme celles proposées par Soule et coll. (2005) et Rousseeuw et Hubert (2017) pour la détection d’anomalies sont populaires et ont été appliquées à divers contextes et problèmes, l’arrivée de modèles d’apprentissage automatique avancés et de capacités de calcul rend l’exercice plus facile et modulable en fonction de grandes quantités de données. En outre, certaines anomalies peuvent être plus difficiles à détecter et peuvent nécessiter des techniques plus avancées (Pang et coll., 2021). Ces auteurs soulignent que certaines difficultés particulières peuvent s’avérer plus complexes et nécessiter des approches avancées. Ils affirment que la détection des anomalies est plus problématique et plus complexe parce qu’elle se concentre sur des données minoritaires qui sont généralement rares, diverses, imprévisibles et incertaines. Par exemple, les auteurs soulignent le défi suivant lié à la complexité des anomalies (Pang et coll., 2021) :

La plupart des méthodes existantes concernent les anomalies ponctuelles, qui ne peuvent être utilisées pour les anomalies contextuelles et les anomalies collectives, car elles présentent des comportements complètement différents des anomalies ponctuelles. L’un des principaux défis dans le cas présent consiste à intégrer le concept d’anomalies contextuelles et collectives dans les mesures et les modèles d’anomalie. En outre, les méthodes actuelles sont axées principalement sur la détection d’anomalies à partir de sources de données uniques, alors que de nombreuses applications nécessitent la détection d’anomalies selon de multiples sources de données hétérogènes, par exemple des données multidimensionnelles, des graphiques, des images, du texte et des données audio. L’une des principales difficultés réside dans le fait que certaines anomalies ne peuvent être détectées qu’en tenant compte de deux sources de données ou plus (p. 4, traduction libre).

Les auteurs font donc une distinction entre ce qu’ils appellent la détection d’anomalies « traditionnelle » et la détection d’anomalies « profonde » (p. 5), et affirment que ce dernier type de détection s’intéresse à des situations plus complexes et permet « l’optimisation de bout en bout de l’ensemble du pipeline de détection d’anomalies, ainsi que l’apprentissage de représentations précisément adaptées à la détection d’anomalies » (p. 5, traduction libre). La détection des anomalies contextuelles est une méthode qui permet de repérer des valeurs inhabituelles dans un sous-ensemble de variables tout en tenant compte des valeurs d’autres variables. La détection des anomalies collectives est axée sur le repérage des anomalies au sein de groupes de données. Au lieu d’examiner des points de données individuels, cette approche permet d’étudier les tendances et les comportements collectifs afin de détecter tout écart par rapport à la norme.

Comme l’ont souligné des auteurs, tels que Chandola et coll. (2009), Pang et coll. (2021) et Nassif et coll. (2021), entre autres, l’apprentissage automatique a rendu les exercices de détection des anomalies plus robustes et plus harmonieux. En effet, de nombreuses techniques exploitant les technologies d’apprentissage automatique ont été proposées et appliquées à la détection des anomalies et se sont révélées pratiques et utiles pour automatiser le processus (Liu et coll., 2015). Par exemple, Nassif et coll. (2021) ont séparé la détection des anomalies fondée sur l’apprentissage automatique en trois grandes catégories : la détection d’anomalies supervisée où le processus comprend l’étiquetage d’un ensemble de données et l’entraînement d’un modèle pour reconnaître les points anormaux en fonction des étiquettes; la détection d’anomalies semi-supervisée où l’ensemble d’apprentissages n’est que partiellement étiqueté; la détection d’anomalies non supervisée où aucun ensemble d’apprentissage n’est nécessaire et où un modèle détecte et signale automatiquement les tendances anormales.

Au cours de ce projet, nous avons exploité la catégorie d’apprentissage automatique semi-supervisée où les données de capteurs sont partiellement étiquetées. Nous montrons que cette approche, combinée à une compréhension approfondie des relevés de capteurs, permet d’obtenir des résultats fiables et présente l’avantage non négligeable d’un réglage de précision du modèle et des paramètres statistiques tout en conservant le pouvoir d’automatisation de l’apprentissage automatique.

Contexte de la recherche : Le problème et le pipeline de données

Le problème

Des capteurs physiques de surveillance de l’état des structures sont installés à des endroits stratégiques le long d’une infrastructure donnée, par exemple un pont ou un barrage, afin d’enregistrer son comportement. La plupart des capteurs fonctionnent en enregistrant des signaux électroniques, qui sont ensuite convertis en force, en mouvements, en vibrations, en inclinaisons et en d’autres renseignements essentiels pour nous permettre de comprendre l’état de l’infrastructure. Ces capteurs envoient en permanence de grandes quantités de données. Pour que ces données de surveillance de l’état des structures puissent être utilisées par les ingénieurs et les exploitants de ponts en vue d’une gestion adéquate des biens, elles doivent d’abord être débarrassées des anomalies, telles que les valeurs aberrantes et le bruit.

Les propriétaires et les opérateurs d’infrastructures essentielles mènent régulièrement des activités de diligence raisonnable pour s’assurer de l’état des structures de leurs biens. Dans un premier temps, les données qui dépassent les seuils maximaux ou minimaux prédéfinis par les concepteurs du pont sont désignées comme des valeurs aberrantes. Cependant, les données des systèmes de surveillance de l’état des structures sont souvent plus complexes et nécessitent une analyse plus poussée pour éliminer les valeurs aberrantes et le bruit des données qui se situent à l’intérieur de ces seuils prédéfinis.

Avant de développer l’approche d’apprentissage automatique, l’équipe des grands ponts et projets effectuait des analyses qui nécessitaient la détection manuelle d’anomalies dans de grandes quantités de données de capteurs, un travail qui s’est avéré complexe, laborieux, moins efficace et sujet à l’erreur humaine. L’utilisation de techniques d’apprentissage automatique a permis aux équipes de mettre à l’essai un mécanisme de détection des anomalies plus rapide et plus précis.

Ce projet a été mené dans le cadre d’un partenariat entre l’équipe de science des données et l’équipe des grands ponts et projets de LICC.

L’objectif général du projet est d’améliorer la surveillance de l’état de l’infrastructure des ponts en produisant moins de bruit dans les données. Les objectifs précis comprennent la détection d’anomalies (dénombrement) parmi les données de capteurs de différents types, telles que les anomalies causées par des fluctuations irrégulières ou l’absence de fluctuations, ainsi que le repérage des tendances d’anomalies parmi les données de capteurs. En outre, le projet vise à éclairer le processus décisionnel concernant la mise en œuvre d’une nouvelle technologie de détection des anomalies.

Le pipeline de données

Le pipeline de données du projet suit un processus typique de science des données : l’équipe d’analyse reçoit les relevés des capteurs; le nettoyage et le prétraitement sont effectués à l’aide de Python; des ensembles d’apprentissage sont créés, étiquetés et mis à l’essai; des modèles d’apprentissage automatique sont appliqués à l’aide de la bibliothèque scikit-learn de Python; les prédictions qui en résultent sont visualisées à l’aide de MS Power BI. La figure 1 ci-dessous résume le pipeline de données pour le projet.

Méthodes

Le projet repose sur une approche de classification d’apprentissage automatique semi-supervisée semblable aux techniques exposées dans la section de revue de la littérature. Cette technique repose sur une combinaison de données étiquetées et non étiquetées où nous étiquetons partiellement un ensemble d’apprentissage et appliquons des paramètres statistiques dans le processus de détection d’anomalies comme décrit dans les sections suivantes. Le choix de la méthode a été fait selon de multiples facteurs qui permettent le contrôle des données d’apprentissage, des types d’anomalies, de la rentabilité, de la reproductibilité et du rendement, entre autres. Des auteurs tels que Soule et coll. (2005) et Rousseeuw et Hubert (2017) ont proposé des méthodes fiables pour l’utilisation de techniques statistiques dans la détection d’anomalies et ont démontré que la combinaison de ces techniques avec des approches d’apprentissage machine existantes donne des résultats fiables alors que l’utilisation de l’apprentissage automatique seule ne permet généralement pas de cerner les types d’anomalies difficiles à détecter (Spanos et coll., 2019; Jasra et coll., 2022). Cette constatation s’est avérée exacte dans ce projet : lorsque nous avons appliqué un modèle d’apprentissage automatique non supervisé pendant l’étape d’exploration, nous avons réalisé que seules les données aberrantes, c’est-à-dire celles qui étaient considérablement supérieures ou inférieures aux données moyennes, étaient signalées comme des anomalies. Cependant, nous avions besoin d’une méthode qui nous permettrait de détecter les anomalies qui ne sont pas facilement détectables.

Pour mettre en œuvre cette approche avec succès, nous avons partiellement étiqueté un ensemble d’échantillons et formé un modèle d’apprentissage automatique pour signaler ces anomalies. Avant d’exécuter le modèle supervisé, nous avons prérempli les prédictions d’anomalies selon une approche non supervisée et fondée sur des règles assortie de paramètres prédéfinis pour les écarts-types et la taille des fenêtres des séries temporelles décrits dans les sections suivantes. Avec un ensemble d’apprentissages partiellement étiqueté, la classification d’apprentissage automatique a été appliquée, et nous avons choisi l’algorithme d’optimisation du gradient résumé par les équations (1) et (2) ci-dessous :

(1) $\hat{y}=F_{\mathrm{K}}\left(x\right)$

(2) $F_{\mathrm{K}}\left(x\right)=F_0\left(x\right)+\sum _{i=1}^K{\gamma }_i{\lambda }_i\left(x\right)$

où:

• $\widehat{y}$ représente les étiquettes de données binaires prédites pour un relevé normal ou anormal du capteur;
• $X$ représente un ensemble de variables explicatives pour les données d’une série temporelle avec le relevé du capteur, la date et l’heure;
• $\mathrm{F(}x)$ représente la fonction apprise par le classificateur à partir des données d’apprentissage (étiquetées);
• $F_0$ représente une valeur initiale constante pour la prédiction cible;
• $K$ représente le nombre d’étapes d’optimisation également appelées « systèmes d’apprentissage faibles »;
• ${\gamma }_i$ représente des coefficients également connus sous le nom de taux d’apprentissage;
• ${\lambda }_i$ représente les systèmes d’apprentissage faibles ou les arbres de décision.

L’expression dans l’équation (1) représente la sortie prédite du modèle y pour les caractéristiques d’entrée x où F est la fonction agrégée combinant tous les systèmes d’apprentissage faibles individuels. L’expression dans l’équation (2) illustre la manière dont le modèle est construit itérativement sur K (étapes d’optimisation) : en partant d’une constante initiale, chaque itération suivante ajoute un système d’apprentissage faible mis à l’échelle afin de réduire progressivement les erreurs résiduelles.

Il est important de souligner que l’algorithme d’optimisation du gradient offre généralement un meilleur rendement que d’autres modèles d’apprentissage ensembliste (Ebrahimi et coll., 2019) et, dans certains cas, les auteurs ont constaté qu’un arbre de décision de gradient renforcé était largement supérieur à certaines modélisations neuronales (Qin et coll., 2021). Avant d’employer l’approche semi-supervisée par l’entremise de l’algorithme d’optimisation du gradient, nous avons mis à l’essai un modèle intitulé Isolation Forest (détection d’anomalies non supervisée) en tant que technique de détection d’anomalies entièrement non supervisée. Les résultats de cette méthode n’ont pas répondu à nos attentes en matière de précision, ce qui n’est pas surprenant dans de tels cas d’anomalies contextuelles, comme l’ont montré Pang et coll. (2021) cité précédemment.

Cette approche a permis un contrôle total sur les données d’apprentissage et a donné la possibilité de peaufiner de nombreux paramètres, y compris les paramètres du modèle, tels que l’ampleur des tests et des apprentissages, les états aléatoires ainsi que les paramètres statistiques pour les écarts-types et la taille des fenêtres des séries temporelles. En effet, nous avons défini les types d’anomalies selon des formules existantes définies par les ingénieurs de ponts et en étiquetant manuellement les ensembles d’apprentissage à l’aide d’un processus itératif. Par exemple, nous avons pu isoler les types d’anomalies suivantes, décrites en tant que « valeur plafond », qui n’ont pas été signalées par le système d’alarme puisqu’elles sont restées dans les seuils prédéfinis mentionnés précédemment et qu’il serait fastidieux et peu pratique de les relever manuellement :

• Anomalies à valeur plafond absolue : lorsqu’un capteur capte exactement la même valeur quatre fois de suite, avec un écart-type égal à 0.
• Anomalies à valeur plafond relative, mais de façon consécutive : lorsqu’un capteur capte 12 relevés consécutifs dans une journée avec une très faible fluctuation, avec une valeur de l’écart-type absolu inférieure ou égale à 0,15.

L’usage de cette approche semi-supervisée a également permis d’appliquer notre méthode à des problèmes similaires sans qu’il soit nécessaire de réécrire l’algorithme, ce qui assure la rentabilité et la reproductibilité. Enfin, le choix de cette méthode a également été fait en fonction des rendements et des performances de calcul bien documentés pour les modèles d’apprentissage automatique supervisés (Akinsola et coll., 2019; Aboueata et coll., 2019; Ma et coll., 1999). Il convient de souligner que bien que les résultats soient satisfaisants, cette approche présente des limites et des difficultés. En particulier, l’étiquetage manuel des données d’apprentissage a nécessité des efforts considérables. En outre, la combinaison de techniques, tout en assurant une certaine souplesse, présentait un risque de surajustement du modèle que nous atténuons en inspectant soigneusement les résultats prédits à l’aide des connaissances des analystes.

Résultats et analyse

Dans sa première étape, le projet a permis de recenser 714 185 relevés de données signalées comme des anomalies. Ce nombre représentait environ 4,6 % de tous les relevés de capteurs et correspondait à l’une des catégories prédéterminées suivantes :

• Anomalies causées par des fluctuations irrégulières;
• Anomalies liées à l’absence de fluctuations normales, y compris la valeur plafond absolue et relative;
• Anomalies causées par des relevés en dehors de la plage prévue pour les capteurs.

La proportion de points de données relevés comme des anomalies était supérieure de plus de 4 % à ce qu’un modèle Isolation Forest non supervisé avait donné lors d’une exploration antérieure, ce qui confirme les conclusions de Pang et coll. (2021) selon lesquelles les types d’anomalies plus complexes nécessitent une combinaison plus avancée de méthodes pour une détection précise. Nous avons également obtenu une cote moyenne de précision interne de 0,988 (soit plus de 98 %), ce qui, sans être une indication absolue de réussite, constitue un signal pour le rendement du modèle.

Précision des prévisions

Au cours de l’étape de validation de ce projet, nous avons calculé une cote F1 pour la précision du modèle et avons obtenu une cote de 0,956 (96 %) de précision. La cote F1 est la moyenne harmonique des cotes de précision et de rappel d’un modèle et est souvent utilisée pour évaluer les modèles de classification (p. ex. voir Silva et coll., 2024; Zhang et coll., 2015). Dans la section suivante, nous présentons la précision du modèle interne calculée selon l’approche de validation croisée de la bibliothèque scikit-learn. Pour éviter un surajustement, nous avons conservé un petit échantillon de données comme ensemble de tests et avons calculé la cote de précision à l’aide de la méthode `train_test_split` de scikit-learn. La méthode divise les ensembles de données en sous-ensembles d’apprentissage et de test pour les tâches d’apprentissage automatique. Il y a plusieurs paramètres, tels que « test_size » et « train_size » qui déterminent, de manière aléatoire ou contrôlée, la fraction du nombre d’échantillons pour l’ensemble de test et d’apprentissage. Cette approche permet un meilleur contrôle, en particulier dans le cas de données d’apprentissage déséquilibrées.

Ce processus est bien documenté par scikit-learn, comme le montre la figure 2 ci-dessous :

Source : Bibliothèque Scikit-Learn – scikitlearn.org

Le tableau 1 ci-dessous présente les cotes de précision obtenues pour un échantillon de 9 capteurs sur les 44 capteurs couverts par la première étape du projet. Cette cote est calculée en divisant le nombre de prédictions justes par le nombre de prédictions totales et permet donc de comparer les valeurs prédites aux valeurs réelles. La cote a été calculée en utilisant les méthodes « y_val_split », « y_val_pred » de la sous-bibliothèque sklearn.metrics. Il convient de souligner que l’exercice d’étiquetage partiel des données d’apprentissage a été réalisé sur un cycle complet de relevés de capteurs, couvrant une année d’échantillonnage. Cet exercice a permis de surmonter le problème du déséquilibre de l’ensemble d’apprentissage et d’obtenir des proportions comparables d’anomalies dans les données d’apprentissage et d’anomalies cernées.

Tableau 1 : Exemples de cotes de précision pour les 9 premiers capteurs à l’aide de la fonction d’aide test-split

ID du capteur	Cote de précision
ID du capteur 1	0,998463902
ID du capteur 2	0,998932764
ID du capteur 3	0,990174672
ID du capteur 4	0,98579235
ID du capteur 5	0,99592668
ID du capteur 6	0,994401679
ID du capteur 7	0,998294486
ID du capteur 8	0,998385361
ID du capteur 9	0,99452954

Bien que cette cote ait constitué un bon point de référence, il convient de souligner qu’en raison du caractère propre des anomalies détectées, d’autres mesures d’évaluation de la précision sont en cours de recherche afin d’assurer la meilleure représentation du rendement du modèle.

Utilisation des résultats : de l’apprentissage machine à la valeur organisationnelle

Les anomalies prédites doivent être mises à la disposition des ingénieurs de ponts pour leur permettre d’agir en s’appuyant sur les renseignements produits par le modèle d’apprentissage automatique. La solution consistait à visualiser les résultats dans un tableau de bord simple et facile à utiliser, qui résume les constatations tout en fournissant suffisamment de renseignements pour éclairer la prise de décisions. Nous avons utilisé Power BI de Microsoft pour produire une visualisation simpliste contenant les renseignements suivants :

1. Le pourcentage d’anomalie par jour selon un graphique à colonnes empilées, qui peut être exploré jusqu’au pourcentage d’anomalie par mois.
2. Les relevés des capteurs selon un graphique linéaire et établissant la distinction entre les relevés normaux et les anomalies.
3. Un tableau avec les résultats détaillés fournit par l’algorithme pour le capteur sélectionné et l’année et le mois.
4. L’indicateur du rendement du capteur sélectionné pour la plage de temps sélectionnée, qui représente le pourcentage du nombre de relevés normaux sur le nombre total de relevés.
5. La part des relevés normaux des capteurs par rapport aux anomalies (diagramme en forme de beigne) et un filtre pour la comparaison.

Ce type de tableau de bord est utilisé pour déterminer le rendement d’un capteur précis et s’il a besoin d’être étalonné, réparé ou remplacé. Il offre une visibilité limitée sur le comportement de la structure que le capteur surveille.

La figure 3 ci-dessous présente un aperçu du tableau de bord illustrant les renseignements ci-dessus.

Nous avons également veillé à ce que les résultats puissent être visualisés ensemble pour tous les capteurs, ce qui a permis de les comparer et de les rendre plus lisibles. Les trois figures ci-dessous montrent les étapes franchies pour parvenir à cette comparaison et à cette lisibilité.

Contrairement au tableau de bord précédent, ce type de tableau de bord, une fois les anomalies éliminées, notamment le bruit et les valeurs aberrantes, permet une meilleure visibilité des tendances et du comportement des structures que les capteurs surveillent, par opposition au comportement des capteurs eux-mêmes.

La figure 4 présente les données brutes initiales de plusieurs capteurs sur le même graphique en fonction d’une moyenne mensuelle, pour montrer les résultats sur de longues périodes (c’est-à-dire l’évaluation de la tendance), ainsi que la température, qui se distingue par des tirets, car la température est le principal prédicteur de relevé influent.

Dans la figure 5, les décalages entre les lignes de données des capteurs sont supprimés pour assurer le chevauchement, et la température est inversée pour qu’elle puisse également suivre la tendance à la hausse et à la baisse des lignes de données des capteurs.

Enfin, la figure 6 présente les résultats finaux après la suppression des anomalies détectées par notre modèle. Une fois de plus, le chevauchement entre la température et les données des capteurs permet d’évaluer qualitativement le comportement des structures en un coup d’œil.

Les résultats obtenus dans le cadre de ce projet ont démontré la possibilité d’utiliser des approches d’apprentissage automatique pour améliorer l’exercice de détection des anomalies et assurer un suivi plus efficace et plus précis des données des capteurs. En effet, le projet a contribué à la compréhension des données historiques sur les capteurs de ponts et a permis de fournir des renseignements sur le rendement global des capteurs. En outre, les résultats ont aidé l’équipe des grands ponts et projets à évaluer le rendement des capteurs, en signalant finalement un certain nombre d’entre eux pour une analyse plus approfondie. Une fois les capteurs examinés et leur fonctionnalité confirmée, les données, désormais exemptes de bruit, permettent d’avoir une meilleure idée du comportement de la structure, des tendances de son rendement et de son état au fil du temps.

Notre approche s’est avérée utile pendant l’étape d’exploitation, d’entretien et de réhabilitation des ponts en contribuant à la détection précoce d’anomalies et à la planification de l’inspection des infrastructures. En outre, grâce à l’exploration et à la manipulation des données historiques, le projet a contribué à la réalisation de l’objectif global de surveillance de l’état des ponts en vérifiant la qualité et la fiabilité des données. Les contrôles de la qualité des données qui accompagnent la détection des anomalies contribueront à améliorer la précision des données historiques des capteurs de surveillance de l’état des structures des ponts et faciliteront la planification et la gestion des travaux futurs. Le contrôle des types d’anomalies réduit le nombre de fausses alarmes tout en ouvrant la voie à des inspections et des vérifications détaillées. La visualisation qui en découle sera également utile à l’équipe technique et fournira des renseignements sur le rendement des capteurs, ainsi que sur les problèmes structurels possibles.

Conclusion et prochaines étapes

Ce projet visait à exploiter des techniques avancées combinant des approches d’apprentissage automatique semi-supervisées et statistiques pour la détection d’anomalies. Comme nous l’avons démontré dans la section consacrée à la littérature, la détection des anomalies est un problème complexe qui requiert une certaine expertise et qui est généralement bien résolu en combinant un grand nombre de méthodes. En effet, nous avons montré que l’exercice peut signaler les anomalies parmi les données des capteurs de manière contrôlée et reproductible. Dans les prochaines étapes du projet, un modèle multiclasses est en cours de recherche pour s’assurer que non seulement les anomalies sont détectées, mais qu’elles sont également étiquetées et regroupées dans des types d’anomalies précises. Cette approche granulaire améliorera la clarté du diagnostic et aidera les ingénieurs à mieux comprendre les causes des anomalies des capteurs et, en fin de compte, à faciliter l’entretien des ponts.

Il convient de souligner, dans ce paragraphe de conclusion, qu’avec l’arrivée de l’IA générative, les recherches à venir devraient porter sur le potentiel de ce type d’IA pour la détection des anomalies. L’IA générative a la capacité d’apprendre des modèles et des distributions de données normales et pourrait donc, si on lui fournit des exemples, cerner les écarts qui peuvent signifier des relevés de données anormales. En outre, en entraînant des modèles tels que les réseaux antagonistes génératifs sur de vastes ensembles de données, les chercheurs peuvent générer des représentations réalistes de comportements typiques et améliorer les exercices de détection d’anomalies. L’utilisation de l’IA générative n’entrait pas dans le cadre de ce projet.

Si vous avez des questions à propos de mon article ou si vous souhaitez en discuter davantage, je vous invite à Rencontrez les scientifiques des données, un événement au cours duquel les auteurs rencontrent les lecteurs, présentent leur sujet et discutent de leurs résultats.

Inscrivez-vous à l'événement Rencontrez les scientifiques des données.  À bientôt!

Abonnez-vous au bulletin d'information du Réseau de la science des données pour la fonction publique fédérale pour rester au fait des dernières nouvelles de la science des données.

Bibliographie

Aboueata, N., Alrasbi, S., Erbad, A., Kassler, A., et Bhamare, D. « Supervised Machine Learning Techniques for Efficient Network Intrusion Detection », 2019, 28th International Conference on Computer Communication and Networks (ICCCN), 2019, p. 1-8. https://doi.org/10.1109/ICCCN.2019.8847179 (en anglais seulement)

Akinsola, J., Awodele, O., Kuyoro, S. et Kasali, F. Performance Evaluation of Supervised Machine Learning Algorithms Using Multi-Criteria Decision Making Techniques, 2019. https://www.researchgate.net/publication/343833347 (en anglais seulement)

Chandola, V., Banerjee, A. et Kumar, V. « Anomaly detection: A survey », ACM Computing Surveys, vol. 41, no 3, 2009, p. 1-58. https://doi.org/10.1145/1541880.1541882 (en anglais seulement)

Ebrahimi, M., Mohammadi-Dehcheshmeh, M., Ebrahimie, E., et Petrovski, K. R. « Comprehensive analysis of machine learning models for prediction of sub-clinical mastitis: Deep Learning and Gradient-Boosted Trees outperform other models », Computers in Biology and Medicine, vol. 114, 103456. https://doi.org/10.1016/j.compbiomed.2019.103456 (en anglais seulement)

Jasra, S. K., Valentino, G., Muscat, A. et Camilleri, R. « Hybrid Machine Learning–Statistical Method for Anomaly Detection in Flight Data », Applied Sciences, vol 12, no 20, 2022, 102161. https://doi.org/10.3390/app122010261 (en anglais seulement)

Nassif, A. B., Talib, M. A., Nasir, Q., et Dakalbab, F. M. « Machine Learning for Anomaly Detection: A Systematic Review », IEEE Access, vol. 9, 2021, p. 78 658 à 78 700. https://doi.org/10.1109/ACCESS.2021.3083060 (en anglais seulement)

Pang, G., Shen, C., Cao, L. et Hengel, A. V. D. « Deep Learning for Anomaly Detection: A Review », ACM Computing Surveys, vol. 54, no 2, 2021, p. 1 à 38. https://doi.org/10.1145/3439950 (en anglais seulement)

Qin, Z., Yan, L., Zhuang, H., Pasumarthi, R. K., Wang, X., Bendersky, M. et Najork, M. « Are Neural Rankers still Outperformed by Gradient Boosted Decision Trees? », International Conference on Learning Representations (ICLR), 2021. [https://research.google/pubs/are-neural-rankers-still-outperformed-by-gradient-boosted-decision-trees/] (en anglais seulement)

Rousseeuw, P. J., et Hubert, M. « Anomaly detection by robust statistics », WIREs Data Mining and Knowledge Discovery, vol. 8, no 2, 2018, e1236. https://doi.org/10.1002/widm.1236 (en anglais seulement)

Scikit Learn. (2024) User Guide - 3.1. Cross-validation: evaluating estimator performance. [https://scikit-learn.org/stable/modules/cross_validation.html] (en anglais seulement)

Sheng Ma et Chuanyi Ji. « Performance and efficiency: recent advances in supervised learning », Proceedings of the IEEE, vol. 87, no 9, 1999, p. 1 519 à 1 535. https://doi.org/10.1109/5.784228 (en anglais seulement)

Silva, P., Baye, G., Broggi, A., Bastian, N. D., Kul, G., et Fiondella, L. « Predicting F1-Scores of Classifiers in Network Intrusion Detection Systems », 2024, 33rd International Conference on Computer Communications and Networks (ICCCN), 2024, p. 1 à 6. https://doi.org/10.1109/ICCCN61486.2024.10637544 (en anglais seulement)

Soule, A., Salamatian, K. et Taft, N. « Combining Filtering and Statistical Methods for Anomaly Detection », Proceedings of the 5th ACM SIGCOMM Conference on Internet Measurement, 2005. [https://www.usenix.org/legacy/events/imc05/tech/full_papers/soule/soule.pdf] (en anglais seulement)

Spanos, G., Giannoutakis, K. M., Votis, K. et Tzovaras, D. « Combining Statistical and Machine Learning Techniques in IoT Anomaly Detection for Smart Homes », 2019 IEEE 24th International Workshop on Computer Aided Modeling and Design of Communication Links and Networks (CAMAD), 2019, p. 1 à 6. https://doi.org/10.1109/CAMAD.2019.8858490 (en anglais seulement)

Zhang D., Wang, J. et Zhao, X. « Estimating the Uncertainty of Average F1 Scores », Proceedings of the 2015 International Conference on The Theory of Information Retrieval, 2015, p. 317 à 320. [https://doi.org/10.1145/2808194.2809488] (en anglais seulement)

 

Par : Uchenna Mgbaja, Md Mahbub Mishu, Maryam Zamani, Sumitra Balamurugan et Aya Heba; NorQuest College

Selon le Recensement de 2021, il y avait 5 millions de ménages locataires au Canada, ce qui signifie qu'environ le tiers des ménages canadiens sont locataires. Une grande partie de cette activité de location se fait toutefois dans le secteur privé, ce qui donne lieu à des données limitées et incohérentes. Pour combler ces lacunes dans les connaissances, nous avons acquis, traité, analysé et représenté visuellement les annonces immobilières de la partie prenante, le Community Data Program (en anglais seulement), pour l'Ontario. Cet ensemble de données offre de nouvelles perspectives sur les tendances spatiales des marchés du logement métropolitain et des petites communautés, qui dépassent les autres sources disponibles en détail et en précision. Des villes comme Toronto, Brampton et Mississauga, par exemple, affichent des prix de location élevés par pied carré, ce qui témoigne de la dynamique économique de la région. Nous avons également analysé des régions de l'Ontario où la population est inférieure à 10 000 habitants.

La présente étude vise à répondre à trois objectifs principaux :

• Interpréter les tendances des ensembles de données et leurs répercussions sur le marché du logement.
• Appliquer des modèles d'apprentissage automatique aux ensembles de données afin que le modèle puisse prévoir les tendances futures.
• Déployer le meilleur modèle.

Méthodologie

Nous avons obtenu de notre client un ensemble de données rigoureuses, lequel comprenait 18 colonnes donnant des précisions sur les régions, le nombre de chambres, les adresses et d'autres renseignements pertinents.

Pour extraire des renseignements précieux, nous avons utilisé des techniques de codage et des représentations visuelles, comme des tableaux et des graphiques. Cela nous a aidés à repérer avec succès des modèles essentiels dans la dynamique du logement, en particulier en cernant les régions présentant des différences notables dans les dépenses de logement et la densité des annonces.

L'analyse exploratoire des données

Pour l'analyse exploratoire des données (AED), nous avons sélectionné de petites collectivités en fonction du dénombrement de leur population. Cette approche nous a permis de mieux comprendre la dynamique du logement dans ces régions précises. La colonne « Prix » de notre ensemble de données contenait toutefois des incohérences, comme des signes de dollar et des virgules, ce qui la rendait difficile à analyser. Pour enrayer ce problème, nous avons supprimé les caractères spéciaux et converti la colonne au format numérique. Cela nous a permis d'effectuer des opérations numériques et de visualiser les données efficacement.

Ensuite, nous avons établi que certaines données des colonnes « Chambres » et « Salle de bain » contenaient des entrées complexes, comme « 2 + Den » (2 + pièce de détente), alors que la fonction regex ne tenait compte que des nombres, en ignorant la « Den » « pièce de détente » supplémentaire. Cela a conduit à des inexactitudes dans la représentation du nombre de chambres à coucher et de salles de bains. Pour résoudre ce problème, nous avons créé une colonne temporaire pour cerner les entrées « + Den » (+ pièce de détente ), converti « Chambres » et « Salles de bains » en valeurs numériques et ajusté les chiffres pour tenir compte de la partie « Den » (pièce de détente). Par la suite, nous avons supprimé la colonne temporaire, ce qui garantit un nombre précis de chambres pour chaque annonce immobilière.

La colonne « Taille » contenait des valeurs non numériques, comme « Non disponible », ce qui a entraîné des erreurs lors de la tentative de conversion de la colonne en type de données flottantes. Pour résoudre ce problème, nous avons remplacé les valeurs non numériques comme « Non disponible » par « NaN » (Not a Number, c'est-à-dire « pas un nombre ») en utilisant la fonction replace() de pandas.

Les entrées dans la colonne « Taille » qui étaient inférieures à 200 ou supérieures à 9 000 pieds carrés étaient considérées comme des données aberrantes et n'étaient pas logiques dans le contexte de la taille des propriétés.   Si elles n'étaient pas traitées de manière appropriée, ces données aberrantes pouvaient fausser les résultats de l'analyse et de la visualisation.

Carte géographique des annonces immobilières en Ontario

Dans la présente section, nous avons utilisé le Looker Studio de Google pour générer des graphiques, des tableaux, des cartes, etc., ainsi que Plotly Express de Python pour les visualisations de l'ensemble des données.

Nous avons créé une carte de dispersion (présentée à la figure 1 ci-dessus) à l'aide de Plotly Express. Chaque point sur la carte représente une annonce immobilière. Nous avons choisi un style OpenStreetMap afin que la présentation soit plus claire et plus simple.

Histogramme représentant la répartition des prix de location

L'histogramme (présenté à la figure 2) permet aux utilisateurs de connaître la répartition des prix des loyers. Pour nous assurer que la visualisation est intuitive, nous avons conservé des étiquettes claires pour les axes et le titre et fourni une explication concise de ce que représente l'histogramme.

Diagramme de dispersion représentant la taille et le prix associé au nombre de chambres

Le diagramme de dispersion (présenté à la figure 3) a permis aux utilisateurs de comprendre la relation entre la taille, le prix et le nombre de chambres à coucher dans un immeuble locatif. Les utilisateurs peuvent dégager des tendances, comme la variation des prix en fonction de la taille et du nombre de chambres.

Diagramme à surface représentant la répartition des prix en fonction du nombre de chambres

Le diagramme à surface (présenté à la figure 4) permet aux utilisateurs de dégager les tendances de la répartition des prix en fonction du nombre de chambres. L'analyse des données aberrantes peut fournir des renseignements sur les propriétés exceptionnelles et les tendances du marché, ce qui aide les utilisateurs à prendre des décisions éclairées concernant les propriétés locatives ou d'investissement.

Diagramme à barres pour les 10 régions les plus dispendieuses et les plus abordables de l'Ontario

Les diagrammes à barres (présentés aux figures 5 et 6) donnent un aperçu de la répartition des prix par région, mettant en évidence les 10 régions les plus dispendieuses et les plus abordables. Les utilisateurs peuvent dégager des tendances, comme les disparités régionales dans les prix des loyers, et prendre des décisions éclairées en ciblant les régions où les prix moyens sont plus bas pour les occasions d'investissement.

Le diagramme circulaire donne un aperçu de la répartition des types de propriétés

Le diagramme circulaire (présenté à la figure 7) donne un aperçu de la répartition des types de propriétés sur le marché locatif. Les utilisateurs peuvent cerner le type de propriété le plus répandu, comme les appartements, qui représente le pourcentage le plus élevé (37,6 %). Ces renseignements peuvent aider les utilisateurs à prendre des décisions éclairées, comme choisir les meilleurs types de propriétés pour les occasions d'investissement ou de location.

L'application de l'apprentissage automatique aux données nettoyées

Pour prédire les prix de location, nous avons appliqué des modèles d'apprentissage automatique (AA) à notre ensemble de données. Nos données ne sont pas des séries chronologiques, car les annonces couvrent différentes dates, sans période de référence constante. Nous nous sommes plutôt concentrés sur des modèles de régression prédictifs afin de prédire les prix des loyers, qui est notre variable cible. Ces modèles nous ont aidés à analyser et à prédire les mouvements de prix en fonction de diverses caractéristiques comme l'emplacement, le type de propriété et les commodités.

Nous avons entraîné divers modèles d'apprentissage automatique, comme il est indiqué ci-dessous.

• Les modèles de régression
  • Tout d'abord, nous avons divisé l'ensemble de données en ensembles de données d'entraînement et de test : 80 % pour l'entraînement et 20 % pour les tests. Cette approche a permis de s'assurer que le modèle était entraîné sur une partie importante des données, tout en conservant une partie importante pour les tests.
  • Ensuite, nous avons entraîné le modèle à l'aide de modèles de régression (le modèle de Random Forest, le modèle de régression linéaire et la méthode de Gradient Boosting) pour prédire les prix de location, qui étaient notre variable ou notre étiquette cible.
  • L'étape suivante consistait à effectuer une validation croisée. Pour ce faire, nous avons utilisé la technique de validation croisée « k-fold » pour évaluer les performances et la généralisation du modèle.
  • Enfin, nous avons évalué les modèles en fonction des mesures de performance suivantes :
    • La racine de l'écart quadratique moyenne (REQM) : Cette mesure métrique permet de mesurer l'ampleur moyenne des erreurs entre les valeurs prédites et les valeurs réelles. Plus la valeur de REQM est faible, meilleur est le modèle.
    • Le score du R au carré (R2) : Cette mesure métrique indique dans quelle mesure les prédictions du modèle de régression s'adaptent aux données réelles. Plus cette valeur est élevée, meilleure est la prédiction du modèle.
• Les modèles de classification 

Pour améliorer notre analyse, nous avons transformé le problème de régression en un problème de classification en fixant des seuils de prix. Plus précisément, nous avons classé les prix de location en trois groupes distincts : bas, moyen et élevé. Les seuils ont été choisis en fonction de la répartition des prix dans l'ensemble de données, en établissant des tranches allant de 0 à 1 500, de 1 500 à 2 500 et de plus de 2 500. Cette catégorisation nous a permis d'appliquer des modèles de classification, comme Random Forest (RF) et le modèle de l'arbre de décision, pour prédire les catégories de prix de location. Cette approche est soumise au point de vue de l'utilisateur sur ce qui est considéré comme un prix élevé ou bas.

Nous avons également élaboré des modèles de classification pour prédire le type de propriété locative en fonction de caractéristiques données. L'objectif était de recommander un type de propriété approprié en fonction des spécifications de l'utilisateur.

Les résultats

Les modèles de régression 

Après avoir entraîné et évalué plusieurs modèles d'apprentissage automatique, il a été déterminé que, sur la base d'une évaluation comparative, le modèle de régression linéaire présentait des performances supérieures à celles des autres modèles de régression.

Tableau 1 : Performances des modèles AA.

Nom du modèle	REQM	R2
Régresseur Random Forest	483,05	0,6120
Régression linéaire	467,54	0,6568
Gradient Boosting	488,56	0,6372

Description - Tableau 1 : Performances des modèles AA.

Ce tableau établi une comparaison des performances de trois modèles d'apprentissage automatique (AA) différents à l'aide de deux mesures métriques : la racine de l'écart quadratique moyenne (REQM) et R² (le coefficient de détermination). Le tableau répertorie les modèles suivants : le régresseur Random Forest, la régression linéaire et Gradient boosting. Les valeurs de la racine de l'écart quadratique moyenne (REQM) et du R² sont fournies pour chaque modèle afin d'évaluer leur précision et leur pouvoir prédictif, respectivement. Le modèle de régression linéaire présente la REQM la plus faible à 467,54 et la valeur du R² la plus élevée à 0,6568, ce qui indique qu'il est plus performant que les autres.

Les modèles de classification 

Le tableau ci-dessous fournit une comparaison détaillée de trois modèles d'apprentissage automatique, à savoir la régression logistique, l'arbre de décision et Random Forest, utilisés pour classer les prix des propriétés locatives en différentes catégories en fonction de leurs caractéristiques. Les mesures prises en compte pour la comparaison sont les scores d'exactitude, de précision et de rappel obtenus par chaque modèle. Ces mesures sont cruciales pour évaluer l'efficacité et la fiabilité des modèles de prédiction des prix des logements locatifs.

Tableau 2 : les performances de différents modèles d'apprentissage automatique dans la classification des prix des logements.

Nom du modèle	Exactitude	Précision	Rappel
Régression logistique	0,73	0,81	0,81
Arbre de décision	0,73	0,77	0,80
Random Forest	0,74	0,79	0,80

Description - Tableau 2 : les performances de différents modèles d'apprentissage automatique dans la classification des prix des logements.

Ce tableau met en évidence les performances de différents modèles d'apprentissage automatique dans la classification des prix des logements. Le modèle de Random Forest a dépassé les autres modèles en ce qui concerne la précision, atteignant un score de 0,74. Les modèles de régression logistique et d'arbre de décision ont atteint le même score de précision de 0,73. En ce qui concerne la précision et la mémorisation, le modèle de régression logistique a obtenu le score le plus élevé de 0,81 : il serait donc légèrement meilleur pour déterminer les cas vraiment positifs. Cette comparaison fournit des renseignements précieux sur l'efficacité de ces modèles pour prédire les prix des logements locatifs et aide à sélectionner le modèle le plus approprié pour cette tâche.

Les méthodes de sélection des caractéristiques : les valeurs de p

Le concept de valeurs de p est fondamental en analyse statistique pour déterminer la signification des résultats observés. Dans les tests d'hypothèses, en particulier dans le contexte de la sélection de caractéristiques pour les modèles d'AA, les valeurs de p aident à évaluer la solidité de la preuve par rapport à une hypothèse nulle. Une valeur de p faible indique généralement que les données observées sont peu probables en supposant que l'hypothèse nulle est vraie, ce qui conduit au rejet de l'hypothèse nulle en faveur d'une autre hypothèse.

Dans les résultats présentés ci-dessus, le cadre de données présente les noms des caractéristiques à côté de leurs valeurs de p correspondantes dérivées du test F de l'ANOVA. Cette technique statistique vise à évaluer l'importance des caractéristiques individuelles concernant la variable cible « Prix ». Une valeur de p plus faible signifie une association plus forte entre la caractéristique et la variable cible, ce qui indique une probabilité plus élevée que la caractéristique soit pertinente pour prédire les prix des logements.

Fait à noter, des caractéristiques comme « Hydro_N », « Hydro_O », « Taille » et divers indicateurs géographiques présentent des valeurs de p extrêmement faibles, ce qui est à l'origine de leur incidence considérable sur la détermination des prix des logements.

La méthode de corrélation

L'analyse de corrélation est une technique statistique utilisée pour mesurer la force et la direction de la relation linéaire entre deux variables. Dans le contexte de la sélection de caractéristiques pour l'apprentissage automatique, l'analyse de corrélation permet de cerner les caractéristiques fortement corrélées à la variable cible et ayant une incidence considérable sur la prédiction de la cible. Un coefficient de corrélation est compris entre -1 et 1, où :

• un coefficient de corrélation de 1 indique une relation linéaire positive parfaite, ce qui signifie que, lorsqu'une variable augmente, l'autre variable augmente également proportionnellement;
• un coefficient de corrélation de -1 indique une relation linéaire négative parfaite, ce qui signifie que, lorsqu'une variable augmente, l'autre variable diminue proportionnellement;
• un coefficient de corrélation proche de 0 sous-entend peu ou pas de relation linéaire entre les variables.

Dans les résultats ci-dessus, les coefficients de corrélation entre le « prix » (variable cible) et d'autres caractéristiques sont énumérés. Les « chambres » et les « salles de bains » ont des corrélations positives relativement élevées avec le « prix » (0,63 et 0,63, respectivement), ce qui indique que, lorsque le nombre de chambres ou de salles de bains dans une propriété augmente, le prix a tendance à augmenter également.

« Eau_O » et « Eau_N » ont le même coefficient de corrélation de 0,35, le « prix », ce qui donne à penser que la présence ou l'absence d'accès à l'eau pourrait influencer les prix des logements dans une certaine mesure.

Des caractéristiques comme « CSDNAME_South Frontenac », « CSDNAME_Norwich » et « CSDNAME_Chatsworth » ont de très faibles corrélations positives avec le « prix » (près de 0), ce qui indique de faibles relations linéaires entre ces indicateurs géographiques et les prix des propriétés. Nous avons pris des décisions éclairées pour ne conserver que les caractéristiques géographiques les plus pertinentes en fonction de l'expertise du domaine. Ce processus méticuleux de sélection des caractéristiques a contribué à un modèle d'apprentissage automatique plus rigoureux et plus efficace pour prédire les prix des propriétés.

Création de l'application Perspectives sur le logement locatif

La création de l'application Perspectives sur le logement locatif représente un effort global pour tirer parti des techniques de la science des données dans l'analyse des données sur les logements locatifs. Cette section présente le processus d'élaboration, les principales caractéristiques et l'incidence potentielle de la demande sur les parties prenantes et la collectivité.

Développement de l'application

L'application est développée à l'aide du cadre Streamlit, en utilisant Python. Le processus de développement comporte plusieurs étapes clés :

• Le prétraitement des données : nettoyage et formatage de l'ensemble de données sur les logements locatifs pour assurer la qualité et la cohérence des données.
• L'ingénierie des fonctionnalités : création de nouvelles fonctionnalités et transformation des fonctionnalités existantes pour améliorer les performances et l'intelligibilité des modèles.
• La modélisation d'apprentissage automatique (AA) : entraînement et évaluation de modèles prédictifs pour prévoir les prix des loyers et les types de propriétés.
• La conception de l'interface utilisateur : conception d'une interface intuitive et conviviale pour assurer une navigation et une interaction fluides.

Les fonctionnalités

L'application Perspectives sur le logement locatif offre les principales fonctionnalités suivantes :

• Le tableau de bord qui donne un aperçu des objectifs et des principales conclusions du projet.
• L'analyse exploratoire des données (AED) qui permet aux utilisateurs d'étudier les données sur les logements locatifs grâce à des visualisations.

  

• Modélisation AA : permet aux utilisateurs de prédire les prix de location et les types de propriétés en fonction des paramètres d'entrée.

  

• Profil des collectivités : affiche les annonces de logements locatifs sur des cartes, fournissant des renseignements spatiaux sur les tendances du marché.

  

• Intégration du Looker Studio de Google : intègre des renseignements et des rapports supplémentaires permettant une analyse et une visualisation améliorées.

  

L'expérience utilisateur

L'application donne la priorité à l'expérience utilisateur en offrant une interface intuitive, des fonctionnalités interactives et des renseignements en temps réel. Les utilisateurs peuvent facilement naviguer entre les différentes parties, personnaliser les paramètres d'entrée et visualiser les résultats de manière dynamique et attrayante.

Les retombées et les avantages de l'application

L'application Perspectives sur le logement locatif pourrait avoir des retombées importantes sur les parties prenantes et la collectivité en :

• fournissant des renseignements précieux sur les tendances et les modèles de logement locatif;
• soutenant la prise de décision éclairée en matière d'investissements immobiliers et de gestion immobilière;
• donnant aux utilisateurs des capacités d'analyse prédictive pour la planification stratégique et l'allocation des ressources;
• améliorant la transparence et l'accessibilité des données sur le logement locatif pour les décideurs, les chercheurs et les organismes communautaires.

Les travaux à venir

L'étude offre une analyse détaillée du marché du logement locatif en Ontario, au Canada. En utilisant des techniques d'AED et d'AA, les auteurs fournissent des renseignements précieux sur les tendances spatiales, la dynamique du logement et les prévisions de prix des loyers, ce qui profite à la fois aux marchés métropolitains et aux petites collectivités.

Grâce à un nettoyage méticuleux des données, à l'ingénierie des caractéristiques et à l'application de divers modèles d'apprentissage automatique, l'étude met en lumière des aspects cruciaux comme la répartition des prix, les influences géographiques et les répercussions des attributs du logement sur les prix des loyers. Le développement d'une application Perspectives sur le logement locatif permet d'améliorer davantage l'exploration des données, la modélisation prédictive et la visualisation spatiale. Cela permet de fournir aux parties prenantes des renseignements utiles et exploitables, qui soutiennent une prise de décision éclairée sur le marché du logement locatif.

Dans l'ensemble, l'étude souligne le potentiel transformateur des approches axées sur les données pour relever des défis sociétaux complexes, comme le logement abordable, et souligne l'importance de la collaboration entre les parties prenantes du milieu universitaire, de l'industrie et du gouvernement pour apporter des changements positifs dans le paysage du logement locatif.

Bibliographie

• Min, H., Wood, R., Seong-Jong, J. (2023). Machine Learning Methods and Predictive Modeling to Identify Failures in the Military Aircraft. International Journal of Industrial Engineering, 30(5), 1273-1283. 10.23055/ijietap.2023.30.5.8659
• Belcastro, L., Carbone, D., Cosentino, C., Marozzo, F., Trunfio, P. (2023). Enhancing Cryptocurrency Price Forecasting by Integrating Machine Learning with Social Media and Market Data. Algorithms 2023, 16, 542. 10.3390/a16120542
• Chaudhuri, T., Ghosh, I., Singh, P. (2017). Application of Machine Learning Tools in Predictive Modeling of Pairs Trade in Indian Stock Market. The IUP Journal of Applied Finance, Vol. 23, No. 1.
• Paul RK, Yeasin M., Kumar P, Kumar P, Balasubramanian M, Roy HS, et al. (2022). Machine learning techniques for forecasting agricultural prices: A case of brinjal in Odisha, India. (en anglais seulement) PLoS ONE 17(7): e0270553.
• Pyo S, Lee J, Cha M, Jang H. (2017). Predictability of machine learning techniques to forecast the trends of market index prices: Hypothesis testing for the Korean stock markets. (en anglais seulement) PLoS ONE 12(11): e0188107.
• Rowe, W. (s.d.). Mean Square Error & R2 Score Clearly Explained. (en anglais seulement) BMC Blogs.
• R, V. (11 septembre 2018). Feature selection — Correlation and P-value. (en anglais seulement) Machine Learning - The Science, The Engineering, and The Ops.
• sklearn.metrics.r2_score — scikit-learn 0.24.1 documentation. (en anglais seulement) (s.d.). Scikit-Learn.org.
• panData. (8 avril 2023). Exploratory Data Analysis (EDA): Techniques and Methods for Effective ML Models. (en anglais seulement) Medium.
• Streamlit • A fastest way to build and share data apps. (en anglais seulement) (s.d.). Streamlit.io.
• Looker business intelligence platform embedded analytics. (en anglais seulement) (s.d.). Google Cloud.
• Ashraf, A. (22 septembre 2023). Correlation in machine learning — All you need to know. (en anglais seulement) Medium.
• P-value in Machine Learning. (en anglais seulement) (9 juillet 2020). GeeksforGeeks.
• Ray, S. (7 mars 2019). 7 Types of Regression Techniques you should know. (en anglais seulement) Analytics Vidhya.
• Brownlee, J. (4 octobre 2023). A Gentle Introduction to k-fold Cross-Validation. (en anglais seulement) Machine Learning Mastery.