MisterAI/WM-ORG-XML-DUMP_FR_2026.08

Jeux De Données : Dump WikiMedia Français Août 2026 : Extraction et Nettoyage Complet

Description

Ce JDD contient des articles extraits du dump complet de Wikimedia d'août 2026, nettoyés et structurés pour l'entraînement de modèles d'apprentissage automatique.

Source originale : https://www.wikimedia.org/

Licence : https://creativecommons.org/licenses/by-sa/4.0/deed.en

Dump source : https://dumps.wikimedia.org/frwiki/latest/

Fichiers traités (4 fichiers « pages-articles » monoblocs, ~9,1 Go compressés) :

-rw-r--r--  1 MisterAI MisterAI 1,8G 29 août  12:24 frwiki-2026-08-01-p13754708p17545861.xml.bz2
-rw-r--r--  1 MisterAI MisterAI 2,5G 29 août  12:32 frwiki-2026-08-01-p3545022p8713297.xml.bz2
-rw-r--r--  1 MisterAI MisterAI 2,7G 29 août  12:28 frwiki-2026-08-01-p3p3545021.xml.bz2
-rw-r--r--  1 MisterAI MisterAI 2,1G 29 août  12:40 frwiki-2026-08-01-p8713298p13754707.xml.bz2

Volume initial décompressé : ~100–120 Go
Volume final nettoyé : 11,5 Go (4 fichiers .jsonl)

---

Contenu et Structure

Chaque entrée du JDD contient les champs suivants (JSONL, une ligne = un article) :

Champ	Description
id	Identifiant numérique de la page MediaWiki
Nom_Article	Titre exact de l'article
URL_Article	Lien permanent canonique (https://fr.wikipedia.org/wiki/...)
Sujet_Article	Lead (chapeau introductif avant la première section ==)
Texte_Article	Texte intégral de l'article (toutes sections hors références/Annexes/liens externes)
categories	Liste des catégories [[Catégorie:...]] (noms propres, dédoublonnées)
portails	Liste des portails `{{Portail
revision_id	ID de la révision source
timestamp	Horodatage de la révision (ISO 8601)

Exemple :

• 1 ligne unique jsonl Affichée en pretty-print ici pour lisibilité

{
  "id": "3545188",
  "Nom_Article": "Force exécutoire du jugement",
  "URL_Article": "https://fr.wikipedia.org/wiki/Force_ex%C3%A9cutoire_du_jugement",
  "Sujet_Article": "La force exécutoire est un effet légal attaché à une décision de justice, qu'elle soit juridictionnelle ou gracieuse, à un acte notarié ou à certains actes de l'Administration, qui permet de faire procéder à une saisie contre un débiteur ou d'expulser l'occupant d'un local, en recourant au besoin à la force publique.",
  "Texte_Article": "La force exécutoire est un effet légal attaché à une décision de justice...\n\n==En droit québécois==\nEn droit québécois, la force exécutoire du jugement est notamment décrite à l'article 656 du Code de procédure civile du Québec.\n\n[TABLEAU: Chronologie des textes :\n| Année | Texte |\n|-------|-------|\n| 1806 | Code de procédure civile |\n| 1975 | Nouveau code |\n]",
  "categories": ["Droit civil", "Procédure civile"],
  "portails": ["droit"],
  "revision_id": "201473464",
  "timestamp": "2023-02-17T14:38:19Z"
}

• 1 Ligne unique jsonl

{"id":"3545188","Nom_Article":"Force exécutoire du jugement","URL_Article":"https://fr.wikipedia.org/wiki/Force_ex%C3%A9cutoire_du_jugement","Sujet_Article":"La force exécutoire est un effet légal attaché à une décision de justice, qu'elle soit juridictionnelle ou gracieuse, à un acte notarié ou à certains actes de l'Administration, qui permet de faire procéder à une saisie contre un débiteur ou d'expulser l'occupant d'un local, en recourant au besoin à la force publique.","Texte_Article":"La force exécutoire est un effet légal attaché à une décision de justice...\n\n==En droit québécois==\nEn droit québécois, la force exécutoire du jugement est notamment décrite à l'article 656 du Code de procédure civile du Québec.\n\n[TABLEAU: Chronologie des textes :\n| Année | Texte |\n|-------|-------|\n| 1806 | Code de procédure civile |\n| 1975 | Nouveau code |\n]","categories":["Droit civil","Procédure civile"],"portails":["droit"],"revision_id":"201473464","timestamp":"2023-02-17T14:38:19Z"}

---

Processus de Nettoyage (Pipeline unique)

L'extraction est réalisée en un seul passage par un Script Python (mwxml + mwparserfromhell) :

1. Parsing streaming du .xml.bz2 → dernière révision de chaque page.
2. Conversion des tableaux Wiki en Markdown (avec titre) avant parsing AST.
3. Parsing AST complet (mwparserfromhell) → suppression sections parasites (Références, Annexes…), balises <ref>/<gallery>, liens externes.
4. Dispatch intelligent des templates (≈ 40 patterns) : suppression totale (infobox, navbox, imdb…), conservation du contenu pour le formatage pur (gras, lang, citation…), extraction sémantique pour les cas utiles (date, lien web, ouvrage, démographie, colonne, multiple image…).
5. Vignettes & WikiTables simples : [[Fichier:…|vignette|desc]] → [IMAGE: desc] ; {{Wikitable|…|…}} → [TABLEAU:\n|…|…|] (premier niveau seulement).
6. Nettoyage final : liens [[…]], entités HTML, apostrophes wiki, espaces.
7. Extraction métadonnées (catégories, portails, lead/full_text) + écriture JSONL parallèle.

---

mwparserfromhell : The MediaWiki Parser From Hell

Remerciements : earwig/mwparserfromhell

Sans mwparserfromhell, deux approches classiques échouent :

Approche naïve	Résultat
Regex globales sur le wikitexte brut	Casse l'imbrication {{template {{autre}} }}, mange du texte, laisse des artefacts, ne gère pas les tableaux `{
Troncature au lead (première section seulement)	Perte de 70–85 % du texte utile (historique, description, tableaux, listes, données chiffrées). Mon premier JDD de juillet faisait cela → 6,2 Go au lieu de ~25 Go exploitables.

Voir Premier Essai : Wiki_FR_2026.07

Avec mwparserfromhell :

mwparserfromhell fournit un puissant parseur AST (Abstract Syntax Tree) qui :

• Respecte l'imbrication des {{ }} et [[ ]].
• Permet filter_templates(recursive=True) + traitement enfants avant parents (ordre inverse) → les paramètres des templates parents contiennent déjà du texte propre.
• Permet filter_tags(), filter_wikilinks(), filter_external_links(), filter_comments() sur l'arbre, pas sur du texte plat.
• Rend possible la conversion sémantique de 40+ families de templates au lieu de les jeter.

Résultat concret : chaque article garde la majorité du texte exploitable (sections, tableaux Markdown, légendes d'images, bibliographies structurées, données démographiques, citations) au lieu d'un chapeau de 3 lignes.

• NB : Ce n'est pas un outil magique non plus, pour chaque balise a recuperer il faut forger un gestionnaire de balise...

---

Versions Disponibles

Nom Répertoire	Taille	Nombre de Fichiers	Nombre de lignes	Publication
WM-ORG-XML-DUMP_FR_2026.08_JDD_R_EAv1	~40 Mo	4 fichiers .jsonl	9,840 Lignes	✅ Disponible
WM-ORG-XML-DUMP_FR_2026.08_JDD_R_EAv2	~100 Mo	4 fichiers .jsonl	24,765 Lignes	✅ Disponible
WM-ORG-XML-DUMP_FR_2026.08_JDD_R_EAv3	~400 Mo	4 fichiers .jsonl + 1 validation	98,783 Lignes	🕐 À Venir
WM-ORG-XML-DUMP_FR_2026.08_JDD_R_EAv4	~1 Go	4 fichiers .jsonl + 1 validation	ND	🕐 À Venir
WM-ORG-XML-DUMP_FR_2026.08_JDD_COMPLET	~11.5Go	4 fichiers .jsonl	2,727,302 Lignes	🕐 À Venir

---

Utilisation Recommandée

Ce JDD est adapté à :

• L'entraînement de modèles de traitement du langage naturel (LLM, BERT-like, etc.)
• L'extraction d'informations et la classification de textes (catégories/portails comme labels faibles)
• Les tâches de génération de contenu basées sur des connaissances factuelles (RAG, fine-tuning)
• L'analyse structurelle (tables Markdown, listes, citations, données chiffrées)

Note : Le champ Sujet_Article (lead) permet un aperçu rapide ; Texte_Article contient le corps complet nettoyé. Les URLs permettent de remonter à la source pour vérification.

---

Licence et Attribution

Les données textuelles originales des dumps de Wikimedia.org sont distribuées sous Licences :

• GNU Free Documentation License (GFDL)
• Creative Commons Attribution-ShareAlike 4.0 International (CC BY-SA 4.0)
• NB : Certains contenus peuvent être disponibles uniquement sous licence Creative Commons, sous des licences supplémentaires ou être placés dans le domaine public.

Licence : Page Wikimedia

Source : Dump Wikimedia

Extraction, nettoyage et structuration réalisés par MisterAI avec :

• L'assistance de :

  • Devstral/Codestral (jusqu'a ce que ma clé API gratuite ne le soit plus... dommage 🥺)
  • Nemotron
  • Claude5-Sonnet

• L'utilisation de

  • mwxml
  • mwparserfromhell