Identifier et supprimer les doublons dans un data set fait partie des compétences de base du programmeur SAS. Trois approches sont envisageables : PROC SQL, PROC SORT et un compteur dans un data step.
Qu’appelle-t-on doublon ? des lignes complètement identiques ou seulement des lignes ayant quelques variables communes ? Il est important de savoir si deux records ayant des observations communes sont considérés comme doublons ou s’il faut que toutes les observations soient identiques. Si seules quelques variables sont considérées, il faut savoir quelle ligne est conservée et lesquelles sont supprimées.
Le data set utilisé pour l’exemple est composé de trois variables CNTRY (country), PAT_ID (patient ID) et VAL (value). Le patient 2 de Chine a trois lignes d’observations dont deux strictement identiques.
cntry pat_id val
CN 1 A
CN 2 B
CN 2 C
CN 2 C
HK 3 E
1. PROC SQL
Avec la procédure SQL, il est possible de faire des calculs et de baser sa sélection d’observations sur ce calcul. En d’autres termes, il est possible de compter le nombre de fois qu’une valeur apparaît. Pour identifier les records avec doublons, on prend ceux comptés plus d’une fois.
Première présentation : Voici, tout d’abord, une présentation de PROC SQL décomposable en deux étapes.
proc sql;
create table two (where=(cnt_pat > 1)) as
select cntry, pat_id, val, count(*) as cnt_pat
from one
group by cntry, pat_id;
quit;
Dans un premier temps, une variable donne le nombre de records par patient dans un pays donné (CNT_PAT) grâce à la syntaxe GROUP BY et la fonction COUNT. A ce stade, on obtient le data set suivant :
cntry pat_id val cnt_pat
CN 1 A 1
CN 2 C 3
CN 2 B 3
CN 2 C 3
HK 3 E 1
Dans un second temps, seules les observations ayant des doublons sont gardées, une fois le nouveau data set créé, grâce à l’option WHERE=.
Deuxième présentation : Au lieu de créer la variable CNT_PAT et de faire une sélection ultérieure, la fonction COUNT peut être ajoutée dans une condition introduite par le mot HAVING et faisant toujours appel à la fonction COUNT.
Pour ne voir qu’une des lignes multiples, il suffit d’ajouter DISTINCT.
proc sql;
create table two_bis as
select /*distinct*/ cntry, pat_id, val
from one
group by cntry, pat_id
having count(*) > 1;
quit;
A l’inverse, pour ne sélectionner que les observations n’apparaissant qu’une fois, « >1 » sera remplacé par « =1 ». Seules les observations ayant exactement une occurrence sont sélectionnées.
Le DISTINCT s’applique à l’intégralité des observations. Cela permet de ne garder que des lignes uniques.
Il n’est pas possible de garder la première ligne parmi les doublons définis par des variables précises (CNTRY et PAT_ID dans l’exemple) avec cette méthode.
2. Les options de la procédure PROC SORT (NODUP/NODUPRECS, NODUPKEY)
Il existe deux options dans la procédure PROC SORT pour supprimer les doublons selon qu’ils s’appliquent
- à toute une ligne d’observation (NODUPRECS dont l’alias est NODUP) ou
- à une liste de variables précises données dans l’instruction BY (NODUPKEY).
Au choix, le nouveau data set sans doublons remplace l’ancien ou est sauvegardé dans un dataset différent introduit par OUT=.
Les observations ayant été exclues peuvent être sauvegardées dans un nouveau data set dont le nom est défini par DUPOUT=.
proc sort data=one out=three nodupkey dupout=three_bis;
by cntry pat_id;
run;
proc sort data=one out=four noduprecs /*nodup*/ dupout=four_bis;
by cntry pat_id;
run;
3. Appliquer une variable compteur
Enfin, après PROC SQL et PROC SORT, une troisième possibilité pour identifier et supprimer les doublons, est d’ajouter une variable compteur.
Dans l’exemple ci-dessous, la variable compteur est nommée CNT. Pour la première observation d’un patient d’un pays donné, le compteur est initialisé à 1. Pour chaque nouveau record du patient, le compteur est incrémenté de 1. Quand la variable CNT est égale à 1, le record est ajouté dans le data set FIVE. Sinon il est ajouté dans le data set FIVE_BIS. A la fin, la variable compteur est supprimée.
Ainsi le data set FIVE contient les records sans doublons. Dans le cas du patient doublonné (patient 2), c’est la première observation qui est conservée.
Dans le data set FIVE_BIS, les records exclus de la première sélection sont conservés.
data five (drop=cnt) five_bis (drop=cnt);
set one;
by cntry pat_id val;
if first.pat_id then cnt=1;
else cnt+1;
if cnt = 1 then output five;
else output five_bis;
run;
Annexe :
data one;
input cntry $ pat_id $ val $;
datalines;
CN 1 A
CN 2 B
CN 2 C
CN 2 C
HK 3 E
;
run;
La référence SAS 