-
Notifications
You must be signed in to change notification settings - Fork 0
/
Copy path01_ParserINSEE.py
76 lines (61 loc) · 2.71 KB
/
01_ParserINSEE.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
import os
import csv
from datetime import datetime
characters = "/"
dossier = "./deces_insee/"
donnees_globales = []
def extraire_informations(ligne):
nom = ligne[0:79].strip().split('*')[0]
prenom = ligne[0:79].strip().split('*')[-1].replace(characters, "")
date_naissance = ligne[81:89].strip()
code_lieu_naissance = ligne[89:94].strip() or '00000'
lieu_naissance = ligne[94:123].strip() or 'Pas enregistré'
pays_naissance = ligne[124:153].strip() or 'Pas enregistré'
date_deces = ligne[154:162].strip() or '1970-01-01'
code_deces = ligne[163:168].strip() or '00000'
# Formater la date de naissance
if date_naissance == '':
date_naissance_formatee = ''
else:
# Reformater la date au format YYYY-MM-DD
year = date_naissance[:4]
month = date_naissance[4:6] if date_naissance[4:6] != '00' else '01'
day = date_naissance[6:8] if date_naissance[6:8] != '00' else '01'
date_naissance_formatee = f'{year}/{month}/{day}'
# Formater la date de décès
if date_deces == '':
date_deces_formatee = ''
else:
# Reformater la date au format YYYY-MM-DD
year = date_deces[:4]
month = date_deces[4:6] if date_deces[4:6] != '00' else '01'
day = date_deces[6:8] if date_deces[6:8] != '00' else '01'
date_deces_formatee = f'{year}/{month}/{day}'
return {
'Nom': nom,
'Prenom': prenom,
'Date de naissance': date_naissance_formatee,
'Pays de naissance': pays_naissance,
'Lieu de naissance': lieu_naissance,
'Code lieu de naissance': code_lieu_naissance,
'Date de deces': date_deces_formatee,
'Code du lieu de deces': code_deces
}
# Parcourir les fichiers dans le dossier
for fichier in os.listdir(dossier):
if fichier.endswith(".txt"):
chemin_fichier = os.path.join(dossier, fichier)
with open(chemin_fichier, 'r', encoding='latin-1') as f:
lignes = f.readlines()
for ligne in lignes:
if len(ligne) >= 176: # Vérifier que la ligne a la longueur attendue
informations = extraire_informations(ligne)
donnees_globales.append(informations)
date_du_jour = datetime.now().strftime("%d%m%Y")
fichier_csv = f".//deces_insee/deces_global_maj_{date_du_jour}.csv"
with open(fichier_csv, 'w', newline='', encoding='utf-8') as csvfile:
csvwriter = csv.DictWriter(csvfile, fieldnames=donnees_globales[0].keys())
csvwriter.writeheader()
for personne in donnees_globales:
csvwriter.writerow(personne)
print(f"L'étape 01_ParserINSEE a été réalisée avec succès")