bclement-spadalab commited on
Commit
ca8eb55
·
verified ·
1 Parent(s): 403fe8e

Upload datasheet.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. datasheet.json +56 -0
datasheet.json ADDED
@@ -0,0 +1,56 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "datasheet_version": "1.0",
3
+ "motivation": {
4
+ "objectif": "Fournir des donnees juridiques francaises pre-traitees et structurees, pretes pour l'integration dans des systemes RAG (Retrieval-Augmented Generation).",
5
+ "createur": "SpadaLab",
6
+ "financement": "Auto-finance"
7
+ },
8
+ "composition": {
9
+ "description": "Export de la collection reglements_europeens",
10
+ "nombre_chunks": 904,
11
+ "nombre_articles_uniques": 448,
12
+ "collections": [
13
+ "reglements_europeens"
14
+ ],
15
+ "sources": [
16
+ "eIDAS 2.0 — Règlement (UE) 2024/1183",
17
+ "eIDAS — Règlement (UE) 910/2014",
18
+ "Cyber Resilience Act — Règlement (UE) 2024/2847",
19
+ "RGPD — Règlement (UE) 2016/679"
20
+ ],
21
+ "langue": "Francais",
22
+ "periode_couverte": "Textes en vigueur a la date d'export",
23
+ "donnees_sensibles": "Non — textes juridiques publics uniquement"
24
+ },
25
+ "collecte": {
26
+ "methode": "Extraction automatisee depuis les API officielles (Legifrance PISTE, EUR-Lex) et telechargement de documents PDF publics (ANSSI, ENISA, CNIL).",
27
+ "licence_sources": [
28
+ "Licence Ouverte Etalab 2.0 (donnees Legifrance)",
29
+ "EUR-Lex — reutilisation libre (Decision 2011/833/UE)",
30
+ "Documents PDF publics — reproduction autorisee sauf mention contraire"
31
+ ],
32
+ "filtrage": "Uniquement les textes en vigueur (etat = VIGUEUR)",
33
+ "deduplication": "Par article_id (premiere occurrence conservee)"
34
+ },
35
+ "preprocessing": {
36
+ "chunking": "Decoupe intelligente par structure juridique native : alineas pour Legifrance, paragraphes numerotes pour EUR-Lex, sous-sections pour les PDFs. Taille max ~1500 tokens, min ~50 tokens.",
37
+ "nettoyage": "Retrait des balises HTML, normalisation des espaces",
38
+ "metadonnees": "Chaque chunk contient : article_id, titre, source, code_source, hierarchie (chemin complet dans le code), prefixe contextuel, date_publication, etat, categorie, nombre de tokens estime."
39
+ },
40
+ "distribution": {
41
+ "format_principal": "JSON + Parquet (textes chunkes sans embeddings)",
42
+ "addons_optionnels": [
43
+ "Embeddings pre-calcules (Parquet)",
44
+ "Snapshot Qdrant",
45
+ "Graphe d'entites/relations (JSON + Cypher)"
46
+ ],
47
+ "licence_distribution": "CC-BY-NC-4.0 — usage commercial reserve a la version FULL sous licence custom SpadaLab. Donnees sources sous Licence Ouverte Etalab 2.0.",
48
+ "prix": ""
49
+ },
50
+ "maintenance": {
51
+ "responsable": "SpadaLab",
52
+ "frequence_mise_a_jour": "Depend de la stabilite des sources. Donnees 'Beton' : verification annuelle. Donnees 'Variable' : mise a jour a chaque Loi de Finances.",
53
+ "versioning": "SemVer (majeur.mineur.patch)",
54
+ "contact": "contact@spadalab.fr"
55
+ }
56
+ }