Valeurs aberrantes déguisées : l'imputation robuste cellule par cellule à EcoSta 2026
Matthias Templ (FHNW) a présenté en août 2026 de nouveaux travaux sur l’imputation robuste, lors de
la 9e International Conference on Econometrics and Statistics (EcoSta
2026), qui s’est tenue du 8 au 10 août à l’Université
Ryukoku de Kyoto. L’exposé, « Imputation under cellwise contamination », étend
VIM, le paquet R de visualisation et d’imputation des
données manquantes que Templ contribue à maintenir, à un problème plus difficile : des données où
les valeurs aberrantes elles-mêmes se cachent dans des lignes par ailleurs d’apparence ordinaire.
La contamination cellule par cellule est le cousin plus réaliste du problème classique des valeurs aberrantes : au lieu de quelques enregistrements entièrement corrompus, ce sont des cellules isolées qui le sont, dispersées dans des données par ailleurs propres – une valeur de laboratoire mal saisie ici, une mesure de capteur défectueuse là. La distinction semble mineure, mais l’arithmétique ne l’est pas : avec un taux modeste de 5 % de contamination par cellule et 20 variables, environ 64 % de toutes les lignes contiennent au moins une cellule défectueuse. Toute méthode qui réagit en pondérant à la baisse ou en écartant des lignes entières (la recette standard de la statistique robuste) jette les deux tiers de l’échantillon pour traiter une quantité bien plus petite de données réellement mauvaises.
L’idée directrice de l’exposé est un changement de point de vue : une valeur aberrante cellulaire
est une valeur manquante qui se cache. Un détecteur peut signaler des cellules suspectes et les
transmettre à un modèle d’imputation comme s’il s’agissait de NA – mais l’estimation du détecteur
quant aux cellules contaminées est elle-même incertaine, et une chaîne rigide « signaler puis
supprimer » écarte cette incertitude au lieu de la porter jusqu’au résultat final. L’alternative de
Templ garde le signalement souple : chaque cellule reçoit un poids entre 0 et 1, calculé à partir de
son résidu par rapport à un modèle ajusté sur les autres variables, les poids et les imputations
étant estimés conjointement plutôt qu’en deux étapes disjointes. Pondérer à la baisse, ne pas
supprimer.
Trois estimateurs fondés sur cette idée sont désormais disponibles dans la version de développement
de VIM : imputeCellIRMI() enchaîne des régressions pondérées par cellule à travers les variables
; imputeCellM() ajuste une M-régression robuste par variable et est démontrablement cohérent sous
le modèle de contamination cellule par cellule (c’est celui que Templ recommande en pratique, avec
convergence complète sur l’ensemble du banc d’essai) ; et imputeCellEM() traite la contamination
comme un état latent estimé par un algorithme EM, ce qui fonctionne bien à faible niveau de
contamination mais devient peu fiable au-delà d’environ 10 %. Tous trois gèrent des données mixtes,
continues et catégorielles, où, de façon peut-être contre-intuitive, les variables catégorielles
intactes s’avèrent des ancres utiles : elles aident à démasquer des valeurs aberrantes continues qui
se déguiseraient autrement en se déplaçant avec leurs voisines corrélées.
En simulation, avec 20 variables et 20 % de contamination, les estimations de régression de
imputeCellM() se sont rapprochées des vrais paramètres davantage que celles de quatre chaînes
concurrentes, dont le paquet très répandu mice. La méthode a aussi été testée sur un jeu de
données réel : 300 chevaux, 10 variables de types mixtes, un problème bien connu de données
manquantes dans les dossiers vétérinaires. Elle a signalé 123 cellules sur 3 000 comme contaminées,
réparties de façon clairsemée sur 110 lignes, à raison d’environ une cellule signalée chacune –
exactement le schéma dispersé pour lequel l’approche est conçue, plutôt qu’une poignée de lignes
gravement endommagées. Dans une régression logistique sur les mêmes données, un prédicteur (la
fréquence respiratoire) qui perdait sa signification statistique avec la chaîne conventionnelle «
signaler puis supprimer » est resté significatif avec la nouvelle méthode.
Templ a aussi indiqué sans détour où les nouvelles méthodes montrent leurs limites. La convergence
de imputeCellEM() s’est révélée fragile à des niveaux de contamination plus élevés, et mice, une
méthode existante bien plus simple, s’est avérée tout du long une référence étonnamment solide. La
robustesse limite les dégâts que la contamination peut causer ; elle ne peut pas retrouver
l’information que la contamination a déjà détruite. Une quatrième méthode, plus avancée, est la
prochaine du paquet : un estimateur fondé sur le MCD pour données mixtes, imputeCellMCD(), appuyé
par un article distinct actuellement en cours d’évaluation à Statistics and Computing.
Les extensions robustes cellule par cellule sont dès à présent sur GitHub
(statistikat/VIM), une publication sur CRAN est prévue ;
l’approche remonte à l’article de Templ, Kowarik et Filzmoser de 2011 sur l’imputation par
régression itérative pas à pas dans Computational Statistics & Data Analysis, et VIM lui-même
est maintenu sur CRAN depuis bien plus d’une décennie.