Estimateurs de la variance robustes pour estimateurs par la régression généralisée dans des échantillons en grappes
Section 3. Simulation

• Précédent
• Suivant

Nous avons réalisé une série d’études par simulations pour mettre à l’épreuve les performances des nouveaux estimateurs de la variance dans différentes populations. Dans chaque échantillon simulé, nous avons calculé les quantités énumérées dans le tableau 3.1. Pour évaluer les estimateurs de la variance, nous avons calculé la moyenne des estimations de la variance, comparé ces moyennes à l’erreur quadratique moyenne empirique, et calculé les probabilités de couverture de l’intervalle de confiance en fonction des différentes estimations de la variance. Le tableau 3.2 résume les plans d’échantillonnage des 18 études par simulations. La colonne intitulée Étiquette donne les titres qui seront utilisés dans les tableaux suivants. Les plans d’échantillonnage sont utilisés dans les trois populations décrites ci-dessous.

3.1  Données

Nous avons effectué des simulations sur trois populations pour évaluer les performances fondées sur le plan des estimateurs de la variance dans différentes situations. Dans la première population, nous avons étudié les performances des estimateurs de la variance en cas de grande fraction de sondage au premier degré et d’échantillon de taille moyenne. La deuxième étude par simulations portait sur les performances des estimateurs de la variance dans un jeu de données relativement compliqué et une petite taille d’échantillon au premier degré. La dernière étude par simulations montre les performances des estimateurs de la variance dans de grands échantillons.

3.1.1  Population d’élèves de troisième année

La première étude par simulations a utilisé la population d’élèves de troisième année de l’annexe B.6 de Valliant et coll. (2000). Ce jeu de données contenait les résultats en mathématiques de 2 427 élèves de troisième année dans 135 écoles. Le nombre relativement faible d’écoles de la population et le nombre assez constant d’élèves de chaque école faisaient de cette population un objet idéal pour l’étude d’échantillons avec de grandes fractions d’échantillonnage.

Au moyen de l’estimation par la régression généralisée (GREG), nous avons estimé la note moyenne en mathématiques des élèves de troisième année. Au total, nous avons sélectionné 1 000 échantillons dans chacun des six plans d’échantillonnage du tableau 3.2. Dans le premier plan d’échantillonnage, nous avons sélectionné 1 000 échantillons aléatoires simples sans remise (EASSR) dans 25 écoles. Dans chaque école échantillonnée, nous avons sélectionné exactement cinq élèves par EASSR. Étant donné que le nombre d’élèves variait d’une école à l’autre, le plan d’échantillonnage a donné lieu à différentes probabilités inconditionnelles de sélection, mais à un échantillon fixe de 125 élèves. Le deuxième plan d’échantillonnage était semblable au premier, mis à part le fait que nous avons sélectionné 50 écoles. Parce que le choix de 50 des 135 écoles a donné lieu à une grande fraction de sondage au premier degré de 0,37, un facteur de correction de population finie était nécessaire. Les échantillons $m\mathrm{<mo>=</mo>}$25 et de 50 écoles peuvent tous deux être considérés comme étant de taille « moyenne ».

Dans le troisième plan d’échantillonnage, nous avons sélectionné 1 000 échantillons aléatoires simples dans 25 écoles sans remise. Au sein de chaque école échantillonnée, nous avons sélectionné des élèves à un taux constant de $\frac{675}{\text{2 427}},$ ce qui a produit 1 000 échantillons avec des tailles aléatoires centrées autour de 125 élèves. Dans ce plan, chaque élève avait une probabilité de sélection inconditionnelle égale. Le quatrième plan d’échantillonnage était semblable au troisième, mis à part le fait que nous avons sélectionné 50 écoles. Les tailles d’échantillon étaient également aléatoires dans ce plan, avec une moyenne de 250 élèves. Comme les troisième et quatrième plans d’échantillonnage ont donné à chaque unité la même probabilité de sélection, ils sont intitulés EAS epsem (pour l’anglais equal probability selection, soit mécanisme d’échantillonnage avec probabilités égales) dans les tableaux suivants.

Dans le cinquième plan, nous avons sélectionné 1 000 échantillons dans 25 écoles avec des probabilités proportionnelles au nombre d’élèves de chaque école. Dans chaque école échantillonnée, nous avons sélectionné exactement cinq élèves, ce qui a donné 1 000 échantillons comprenant exactement 125 élèves chacun. Le sixième plan d’échantillonnage était semblable au cinquième, mis à part le fait que nous avons sélectionné 50 écoles. Nous avons sélectionné 1 000 échantillons de 250 élèves au moyen de ce plan. Les cinquième et sixième plans sont des plans d’échantillonnage avec probabilités égales (ou epsem). Comme les deuxième et quatrième plans d’échantillonnage, ce plan d’échantillonnage comportait également une grande fraction d’échantillonnage et justifiait la nécessité d’un facteur de correction de la population finie aux fins d’ajustement des estimateurs de la variance.

À partir de chaque échantillon, nous avons estimé les notes moyennes en mathématiques pour la population finie au moyen d’un estimateur GREG et en supposant que le nombre d’élèves de la population était connu. Le modèle auxiliaire visait à reproduire le modèle de régression linéaire en grappes de la section 9.6 de Valliant et coll. (2000). Les onze variables explicatives utilisées dans la modélisation des résultats en mathématiques de chaque élève étaient : une ordonnée à l’origine, le sexe (masculin ou féminin), l’origine ethnique (blanc/asiatique, noir, autochtone des États-Unis/autre ou hispanique), si la langue parlée à la maison est celle de l’examen (toujours, parfois/jamais), le type de collectivité (banlieue de petite ou grande ville), et inscription dans un établissement d’enseignement. On a divisé le total des résultats en mathématiques estimés au moyen de l’estimateur GREG par le nombre d’élèves de la population, soit 2 427, pour obtenir le résultat moyen. Le résultat moyen de la population est de 477,7. Pour l’ensemble de la population, la valeur de R au carré pour le modèle linéaire au niveau des élèves était de 0,9735, ce qui indique une relation linéaire très forte.

3.1.2  Population de l’Enquête sur les collectivités américaines (American Community Survey ou ACS)

La deuxième étude par simulations a utilisé les données du fichier sommaire 3 du recensement de 2000 et celles du fichier sommaire 2005  $–$ 2009 de l’Enquête sur les collectivités américaines (ACS). Elle visait à estimer le nombre total de logements dans l’État américain de l’Alabama, selon le fichier sommaire de l’ACS. Les nombres des groupes d’îlots du recensement de 2000 ont été utilisés comme covariables dans le modèle auxiliaire.

Pour créer la population, on a d’abord extrait toutes les données sur les groupes d’îlots du fichier sommaire de l’ACS et du fichier sommaire 3 du recensement de 2000. On a ensuite fusionné les deux fichiers au niveau du groupe d’îlots. Les groupes d’îlots comptant 1 000 logements ou plus dans le recensement de 2000 ont été supprimés, car leurs caractéristiques différaient de celles de la majorité des îlots. Dans de nombreux plans d’échantillonnage, les unités de grande taille comme celles-ci seraient placées dans une strate à tirage complet distincte et ne contribueraient pas à la variance des estimations. On a également retiré les groupes d’îlots ayant connu une croissance extrême du nombre total de logements. Plus précisément, les groupes d’îlots comptant plus de 10 unités en plus du double du nombre du recensement de 2000 ont été supprimés.

Les grappes étaient définies comme des comtés et les groupes d’îlots étaient traités comme des unités. Le fait de traiter le groupe d’îlots comme une unité est motivé par la tâche commune consistant à sélectionner l’échantillon d’îlots, à en établir la liste, puis à utiliser les listes pour estimer le nombre total de logements dans la population finie.

Les grappes comptant moins de 10 groupes d’îlots ou plus de 120 groupes d’îlots ont été retirées de la base de sondage des grappes. En tout, il y avait 61 grappes (comtés) contenant un total de 2 051 groupes d’îlots et 1 109 499 logements dans le jeu de données vérifié. Au total, six comtés et 1 278 groupes d’îlots comprenant 1 030 471 logements ont été retirés du fichier de l’Alabama.

La figure 3.1 montre deux diagrammes de dispersion. Le premier graphique montre le nombre total de logements dans le groupe d’îlots déclaré dans le fichier sommaire de l’ACS comme une fonction du nombre de logements du recensement de 2000. Chaque point représente un des 2 051 groupes d’îlots de la population finie. La ligne diagonale est un lisseur non paramétrique, qui indique une relation forte entre les deux variables. Le graphique indique également des signes d’hétéroscédasticité parce que les points semblent s’éloigner à mesure que le nombre du recensement de 2000 augmente. Le deuxième diagramme montre les résidus obtenus par la régression du nombre de logements du recensement de 2000 sur le nombre de logements de l’ACS au moyen des moindres carrés ordinaires (MCO) représentés par rapport au nombre de logements de l’ACS. À mesure que le nombre de logements déclaré dans le fichier de l’ACS augmente, les prédictions du modèle semblent sous-estimer considérablement le nombre réel de logements. Cela semble indiquer un certain degré de non-linéarité dans la fonction moyenne. De plus, la variance est remarquablement hétéroscédastique.

Comme dans la première étude par simulations, nous avons essayé six plans d’échantillonnage différents. Nous avons sélectionné 5 000 échantillons dans chacun des six mécanismes de sélection indiqués au tableau 3.2. Dans le premier plan d’échantillonnage, nous avons sélectionné 5 000 échantillons aléatoires simples dans 3 grappes sans remise. Dans les grandes enquêtes nationales, il n’est pas rare de sélectionner un petit nombre d’unités primaires d’échantillonnage dans chaque strate. Dans ce cas, nous traitons l’Alabama comme une seule strate de plan d’échantillonnage et ses 61 comtés comme des grappes. Trois comtés de la strate ont été échantillonnés. Dans chaque grappe, nous avons sélectionné neuf groupes d’îlots au moyen d’un EASSR. Le deuxième plan était similaire, mais avec 15 grappes et 9 groupes d’îlots par grappe. Les deux premiers plans d’échantillonnage ont produit des pondérations très variables. Les autres plans (lignes 9 à 12) étaient parallèles à ceux des lignes 3 à 6 pour la population d’élèves de troisième année. Les tailles d’échantillon de $m\mathrm{<mo>=</mo>}$3 et 15 sont petites, si bien que les propriétés de grands échantillons théoriques sont moins susceptibles de se vérifier.

À partir de chaque échantillon, nous avons estimé le nombre total de logements dans la population finie à l’aide d’un estimateur GREG. Le modèle auxiliaire comprenait une ordonnée à l’origine et le nombre de logements du recensement de 2000; l’hétéroscédasticité mentionnée ci-dessus n’a pas été prise en compte dans l’estimation par la régression généralisée. Pour l’ensemble de la population, la valeur de R au carré était de 0,819, ce qui indique encore une fois une relation linéaire forte.

3.1.3  Population simulée

On a créé une population avec un grand nombre de grappes pour évaluer les caractéristiques asymptotiques des estimateurs de la variance. Produites à l’aide d’un modèle linéaire classique, 30 000 grappes ont été créées au total, chacune ayant un nombre aléatoire d’unités. On a déterminé le nombre d’unités de chaque grappe en ajoutant trois à un nombre entier aléatoire uniforme entre 0 et 7. La taille des grappes créées varie de 3 à 10 unités. Au total, la population contenait 195 164 unités dans 30 000 grappes. Pour chaque unité, on a créé une covariable positive en tant que $x_k\sim \text{1}\text{000}\exp N\left(\mathrm{0,}1\right)$ où $N\left(\mathrm{0,}1\right)$ est une variable aléatoire normale avec une moyenne de 0 et un écart-type de 1. On a créé une réponse aléatoire de sorte que $y_k\sim N\left(\text{1}\text{000}+2x_k\mathrm{,}\frac{x_k}{2}\right).$ La figure 3.2 montre des diagrammes de dispersion de la relation entre $x_k$ et $y_k$ pour la population finie.

Nous avons sélectionné des échantillons au moyen des six différents mécanismes d’échantillonnage avec probabilités aux lignes 13 à 18 du tableau 3.2. Les types de plans d’échantillonnage sont parallèles à ceux utilisés pour les populations d’élèves de troisième année et de l’ACS. Dans les plans d’échantillonnage 14, 16 et 18, nous avons sélectionné 100 échantillons aléatoires simples de 1 500 grappes sans remise. Nous n’avons sélectionné que 100 échantillons, car le traitement et la sélection informatiques de chaque échantillon prenaient trop de temps. Étant donné que les tailles d’échantillon de $m\mathrm{<mo>=</mo>}$300 et 1 500 sont grandes, les propriétés de grands échantillons théoriques devraient se vérifier.

À partir de chaque échantillon, nous avons estimé le total de la réponse au moyen d’un estimateur GREG. La population réelle finie était de 839 149 969 personnes. Le modèle auxiliaire comprenait une ordonnée à l’origine et $x$ avec $Q=I.$ Pour l’ensemble de la population, la valeur de R au carré était de 0,953, ce qui indique une relation linéaire très forte. La figure 3.2 présente un diagramme de dispersion de la population ainsi qu’un graphique des résidus basé sur une régression des moindres carrés ordinaires de $x_k$ sur $y_k$ pour l’ensemble de la population. Des éléments indiquent de manière probante l’hétéroscédasticité des erreurs.

3.2  Résultats

Nous avons examiné le biais, la variabilité et la couverture de l’intervalle de confiance des estimateurs de la variance nouveaux et anciens. Les tableaux présentent seulement certaines des simulations pour des questions d’espace. Le tableau 3.3 montre les moyennes de l’estimateur $\pi$ et de l’estimateur GREG ainsi que les ratios des valeurs moyennes des estimateurs de la variance par rapport aux erreurs quadratiques moyennes empiriques pour toutes les populations et les combinaisons de taille d’échantillon dans toutes les simulations. L’estimateur $\pi$ et l’estimateur GREG sont approximativement sans biais, mais l’estimateur GREG est beaucoup plus efficace.

Les performances des estimateurs de la variance dépendent du plan d’échantillonnage et de la population. Certaines des estimations du tableau 3.3 de la population de l’ACS avec un échantillon aléatoire simple de 3 grappes et 9 unités dans chaque grappe se démarquent comme étant très peu fiables. Les inverses des probabilités de sélection varient considérablement pour ce plan d’échantillonnage. La variabilité de ces pondérations, conjuguée à certaines observations extrêmes dans la population, cause l’instabilité de certains estimateurs de la variance. Pour être plus précis, ${\upsilon }_{J2},$ ${\upsilon }_{\text{Jack}},$ ${\upsilon }_{J1},$ ${\upsilon }_{J2}^{*},$ ${\upsilon }_{\text{Jack}}^{*},$ ${\upsilon }_{J1}^{*}$ sont des surestimations extrêmes en moyenne. Ces six estimateurs contiennent des ajustements explicites ou implicites de la matrice chapeau qui peuvent être assez grands et accroissent considérablement les estimateurs de la variance lorsqu’ils sont conjugués à de grands poids d’échantillonnage. En revanche, ${\upsilon }_D,$ qui a également une matrice chapeau ajustée, a des performances satisfaisantes pour toutes les populations et toutes les tailles d’échantillon. Il faut souligner le résultat selon lequel ${\upsilon }_D$ est une bien moindre surestimation de l’erreur quadratique moyenne dans la combinaison (ACS, EAS fixe, $m\mathrm{<mo>=</mo>}$3, $n_i\mathrm{<mo>=</mo>}$9) tandis que les autres estimateurs à la matrice chapeau ajustée sont des surestimations extrêmes. Les estimateurs ${\upsilon }_g,$ ${\upsilon }_{wr}$ et, dans une moindre mesure, ${\upsilon }_R$ et ${\upsilon }_{JL}$ tendent à des sous-estimations aux plus petites tailles d’échantillon dans les populations d’élèves de troisième et de l’ACS et pour tous les plans d’échantillonnage dans ces populations, mais ce problème diminue en cas d’échantillons de grande taille.

Les diagrammes de quartiles de la figure 3.3 montrent mieux la variabilité des estimateurs pour les échantillons aléatoires simples de taille $m\mathrm{<mo>=</mo>}$25 et 50 de la population d’élèves de troisième année. Les diagrammes de quartiles représentent les erreurs-types (ET) estimées en tant que fraction de l’ET empirique pour les échantillons de chaque simulation. Un ratio de 1 signifie que la variance estimée est égale à la variance empirique. Certains échantillons donnent de grandes estimations de l’ET, mais la majorité des échantillons sont beaucoup plus près de la variance empirique. Le degré de surestimation et l’incidence des valeurs extrêmes diminuent considérablement pour la plus grande taille d’échantillon, comme la comparaison des nombres le montre visiblement. Les estimateurs à la matrice chapeau ajustée ont également tendance à légèrement surestimer la variance véritable, comme en témoignent les rectangles déplacés au-dessus des lignes de référence tracées à 1. Cela peut constituer un avantage pour la couverture de l’intervalle de confiance.

Le tableau 3.4 présente les sommaires à six nombres des ratios des estimations de l’ET, $\sqrt{v},$ à la racine carrée de la variance empirique, $\sqrt{v_E},$ pour la population d’élèves de troisième année dans quatre des plans d’échantillonnage. Comme l’indique la valeur médiane des ratios de ${\upsilon }_{J2},$ ${\upsilon }_{\text{Jack}},$ ${\upsilon }_{J1},$ ${\upsilon }_{J2}^{*},$ ${\upsilon }_{\text{Jack}}^{*}$ et ${\upsilon }_{J1}^{*},$ ils sont généralement centrés près des ET empiriques, mais ils peuvent avoir des valeurs extrêmement grandes dans certains échantillons qui influent sur leurs moyennes. (Le problème des valeurs aberrantes est encore plus prononcé dans la population de l’ACS, mais les détails n’en sont pas présentés ici.) Les estimateurs les moins touchés par les extrêmes sont ${\upsilon }_g,$ ${\upsilon }_{wr},$ ${\upsilon }_{JL},$ ${\upsilon }_R,$ ${\upsilon }_D,$ ${\upsilon }_R^{*}$ et ${\upsilon }_D^{*}.$ Cependant, les estimateurs qui incorporent les corrections pour population finie (CPF) sont souvent des sous-estimations, sauf en cas d’EAS et $m\mathrm{<mo>=</mo>}$25.

Enfin, le tableau 3.5 montre la couverture de l’intervalle de confiance de 95 % pour tous les estimateurs fondés sur les distributions $t.$ Cela signifie que nous avons calculé $\left[{\widehat{t}}_y^{gr}-t_{\text{0,975}\mathrm{,}m-1}\sqrt{\upsilon }\mathrm{,}{\widehat{t}}_y^{gr}+t_{\text{0,975}\mathrm{,}m-1}\sqrt{\upsilon }\right]$ où $t_{\text{0,975}\mathrm{,}m-1}$ est le 97,5^e percentile d’une distribution $t$ avec $m-1$ degrés de liberté. Nous avons ensuite constaté la fréquence à laquelle la valeur vraie tombait en dessous, au-dessus et à l’intérieur de cette fourchette. En plus des nouveaux et des anciens estimateurs, le tableau 3.5 montre également la couverture de l’intervalle de confiance atteinte quand la variance empirique, ${\upsilon }_E,$ a été utilisée pour former les intervalles de confiance. Idéalement, le total de la population doit se situer dans l’intervalle de confiance estimé à 95 % pour 95 % des échantillons. Le total réel doit être inférieur aux limites de confiance de 95 % pour 2,5 % des échantillons et supérieur aux limites de confiance pour le même pourcentage d’échantillons.

Les estimateurs par la méthode du jackknife ${\upsilon }_D^{*},$ ${\upsilon }_{\text{Jack}}^{*}$ et ${\upsilon }_{J2}$ donnent des taux de couverture supérieurs à ceux des autres estimateurs de la variance, car ils sont plus grands. Dans les petits échantillons, les estimateurs par la méthode du jackknife couvrent au-dessus du niveau nominal. Les estimateurs de la variance classiques, ${\upsilon }_g,$ ${\upsilon }_{wr}$ et ${\upsilon }_{JL}$ donnent une couverture insuffisante dans un certain nombre de cas, bien que leur couverture ait presque toujours été supérieure à 90 %. Il faut noter que ${\upsilon }_D$ est généralement meilleur que ${\upsilon }_R$ en raison de l’ajustement de la matrice chapeau qui rend ${\upsilon }_D$ plus grand.

Les estimateurs de la variance qui intègrent des ajustements de matrice chapeau $({\upsilon }_D,$ ${\upsilon }_{J2},$ ${\upsilon }_{\text{Jack}}$ et ${\upsilon }_R^{*})$ augmentent généralement les taux de couverture de l’intervalle de confiance par rapport aux autres choix. Cet avantage était particulièrement remarquable pour la population de l’ACS population où, par exemple, ${\upsilon }_{wr}$ couvre dans moins de 90 % des échantillons dans les combinaisons $({\upsilon }_{\text{Jack}}^{*},$ $m\mathrm{<mo>=</mo>}$3), (EAS epsem, $m\mathrm{<mo>=</mo>}$3), et (EAS epsem, $m\mathrm{<mo>=</mo>}$15). Bien qu’en principe, une CPF semble utile dans certaines combinaisons de population et de tailles d’échantillon, les intervalles de confiance fondés sur des estimateurs de la variance avec CPF ont des taux de couverture inférieurs à ceux sans CPF. Par exemple, dans l’ACS (EAS epsem, $m\mathrm{<mo>=</mo>}$15) les taux de couverture de ${\upsilon }_R^{*},$ ${\upsilon }_D^{*},$ ${\upsilon }_{J2}^{*},$ ${\upsilon }_{\text{Jack}}^{*}$ et ${\upsilon }_{J1}^{*}$ vont de 86,1 à 90,6 % tandis que les versions sans CPF vont de 90,2 à 93,4 %.

Une des caractéristiques de ${\upsilon }_D$ et ${\upsilon }_D^{*}$ est que les contributions propres aux grappes, ${\upsilon }_{D\text{}\mathrm{,}i}$ et ${\upsilon }_{D,i}^{*},$ ainsi que les estimations de la variance globales peuvent être négatives. Dans les simulations, on a utilisé l’ajustement décrit après (2.11) pour éviter les contributions négatives. Les estimations négatives étaient plus courantes quand les tailles d’échantillon au deuxième degré étaient petites et que les pondérations étaient très variables. Par exemple, pour la population de l’ACS, près de 28 % des échantillons aléatoires simples de 3 grappes et $m_i\mathrm{<mo>=</mo>}$9 ont donné lieu à au moins une contribution de variance négative pour une grappe. Plus souvent, environ 10 % des échantillons contenaient au moins une estimation de la variance négative pour une grappe. Dans la population des élèves de troisième année, de 16 % à 27 % des échantillons avaient au moins une valeur négative de ${\upsilon }_{Di}.$ Dans la population simulée ayant de grandes tailles d’échantillon, la valeur de ${\upsilon }_{Di}$ était négative dans moins de 5 % des échantillons. La correction ponctuelle consistant à modifier $I_i-H_{ii}$ en $I_i,$ ${\upsilon }_D$ est un des estimateurs de la variance les plus attrayants, car il a tendance à surestimer légèrement la variance empirique, a une des meilleures couvertures d’intervalle de confiance et a une variabilité raisonnable comparativement à d’autres estimateurs de la variance.

• Précédent
• Page principale de l'article
• Suivant