Dataset Viewer
Auto-converted to Parquet Duplicate
id
int64
1.6k
105k
filename
stringlengths
12
12
book_type
stringclasses
24 values
text
stringlengths
7.3k
16.6k
n_chars
int32
7.3k
16.6k
timestamp
timestamp[us]date
2025-12-11 19:05:11
2025-12-11 20:39:12
103,919
ue000323.pdf
ue
empolgado pelas vitórias fáceis, saqueava descaradamente o país e não queria renunciar aos “frutos da vitória”. O decreto de 22 de julho de 1834, para o estabelecimento de um governo geral das possessões francesas na África do Norte, significava a renúncia à eva- cuação de Argel. A concepção da “ocupação...
12,893
2025-12-11T20:38:27.136000
103,920
ue000323.pdf
ue
Império. Ademais, em 1852, Napoleão III ab­‐rogou a representação dos europeus da Argélia no parlamento francês e, em 1860, após uma visita à Argélia, condenou definitivamente a política de assimilação. O “romantismo” dos oficiais superou o “mercantilismo” dos colo- nos. Para contrabalançar a influência d...
13,648
2025-12-11T20:38:27.187000
103,921
ue000323.pdf
ue
vezes, havia chefes designados, mas não dirigentes absolutos. Apenas a participação das confrarias religiosas unia­‐os em uma guerra santa para o triunfo da fé. A primeira insurreição deste tipo teve lugar na Tunísia: começou no mês de março de 1864 e se alastrou por todo o país. ‘Alī ibn Guedahem, “o bei d...
12,982
2025-12-11T20:38:27.236000
103,922
ue000323.pdf
ue
da Líbia. As precipitações aumentam com a altitude, até certo relevo, e a configuração das terras saarianas apresenta tanta diversidade quanto o clima. Após as chuvas, cursos d’água até então secos, os wādī, podem novamente fluir por centenas de quilômetros, em grandes superfícies apenas recobertas por um...
13,395
2025-12-11T20:38:27.287000
103,923
ue000323.pdf
ue
D. D. Cordell, 1977a; E. E. Evans­‐Pritchard, 1949. 598 África do século XIX à década de 1880 rumo ao Sul, seguindo a rota das caravanas entre Fezzān e Borno. Anterior- mente, ‘Abd al­‐Djalīl concluíra alianças matrimoniais com importantes famílias do Borno, operação cujo objetivo consistia em apoiar os plan...
13,468
2025-12-11T20:38:27.336000
103,924
ue000323.pdf
ue
Em outro caso, circunstâncias econômicas excepcionais, resultantes da pene- tração francesa no deserto, ao longo dos anos 1850 e 1860, facilitaram a realiza- ção de uma ação unificada entre os tuaregues do Hoggar. Isolado dos mercados do Norte, o Hoggar transformou a sua base econômica. Em consequência de uma...
13,330
2025-12-11T20:38:27.387000
103,925
ue000323.pdf
ue
1961­‐1963, vol. 2, pp. 158­‐163; vol, 3, pp. 74­‐75. 608 África do século XIX à década de 1880 fenômeno seja frequentemente citado para explicar as dificuldades comerciais da Argélia, ele merece reavaliação à luz de recentes indicações segundo as quais o comércio argelino dos escravos não teria jamais sid...
13,064
2025-12-11T20:38:27.437000
103,926
ue000323.pdf
ue
quais já se beneficiavam os saqueadores34. No deserto, a introdu- ção de moderno armamento de repetição aparenta ter sobretudo acontecido ao longo da rota Benghazi­‐Ouadaī; no entanto, outras regiões foram igualmente servidas. Joseph Smaldone reuniu indicações segundo as quais uma reviravolta na distribuição...
13,055
2025-12-11T20:38:27.486000
103,927
ue000323.pdf
ue
século XIX na África do Oeste Aziz Batran 620 África do século XIX à década de 1880 brado em explosões de violência − nasceriam três califados: Sokoto, no Norte da Nigéria, Hamdallahi, no Macina, e o califado tijāniyya, da Senegâmbia e do Macina. O pano de fundo religioso dos movimentos reformistas As jihad...
12,705
2025-12-11T20:38:27.537000
103,928
ue000323.pdf
ue
eles nele encon- travam, a um só tempo, o alimento espiritual e o seu meio de subsistência. Eles compartilhavam as suas preocupações religiosas com os clãs escolásticos zāwiya, vizinhos do Saara Ocidental17. Todavia, diferentemente dos clãs zāwiya, os quais constituíam, cada um deles, uma distinta unidade ét...
12,896
2025-12-11T20:38:27.587000
103,929
ue000323.pdf
ue
chamado do seu xeque, bem como a lutarem e morrerem por ele. Aos seus olhos, com efeito, os xeques eram, espiritual e intelectualmente, superiores a todos os outros ‘ulamā’. Eles eram os santos favoritos de Alá, detentores da baraka (benção divina e poder milagroso), além de representarem os únicos laços entre o...
13,329
2025-12-11T20:38:27.637000
103,930
ue000323.pdf
ue
seus sujeitos. Além disso, eles se associaram econômica e politicamente aos franceses, por eles autorizados a 40 W. A. Brown, 1969, p. 182, nota 25. 41 Ibid., passim. Foi em Nukuma que ocorreu a decisiva batalha, a qual permitiu a criação do califado de Hamdallahi. 634 África do século XIX à década de 1880 cons...
13,144
2025-12-11T20:38:27.686000
103,931
ue000323.pdf
ue
e equipados, os quais tinham sido por ele próprio iniciados durante as suas numerosas viagens em todo o Sudão Ocidental. Todavia, a sua trágica morte no Macina (1864) impôs um termo a esta progressão para o Leste. Comentários sobre algumas consequências dos jihad Foi a primeira e, talvez igualmente, a última ve...
13,315
2025-12-11T20:38:27.737000
103,932
ue000323.pdf
ue
por um dos seus companheiros em: U. F. Malumfashi, 1973. Para uma nova análise do movimento, reposicionado no contexto oeste­‐africano, consultar M. Last, 1988. 2 No tocante ao Mandara, conferir B. M. Barkindo, 1983. Sobre o Borno no século XVIII, referir­‐se a J. E. Lavers, 1980, pp. 206­‐209. Aparentemente, Daya fi...
12,946
2025-12-11T20:38:27.786000
End of preview. Expand in Data Studio

PT-BR Public-Domain Books

Part of the MagTina350m pretrain corpus release by Dataseek under the Magestic.ai brand. This is one of nine silver-layer datasets that fed dataseek/magtina350m-base.

Summary

28 K curated Brazilian-Portuguese public-domain books. Used at ~2 epochs in MagTina350m pretrain (79 M unique tokens sampled to 158 M consumed). Useful as a small but high-quality literary slice.

Source and collection method

Curated public-domain Brazilian books (Domínio Público + similar archives) → filename / book_type classification → drop non-PT types → alpha-ratio filter → text normalisation.

ETL script (in the MagTina1B repository): scripts/etl/03_books_publicos_v1.py (public release of the ETL scripts is on the roadmap; until then the data card below documents the recipe in full).

Filters and deduplication

The following filters were applied before this dataset reached its silver (release-ready) state:

  • PT-only book types (drop italian/english/spanish/OCR-garbage)
  • alpha_ratio ≥ 0.65
  • len(text) ≥ 1 000 chars

Global URL-normalised deduplication was applied across all web-derived corpora (webpages, news, blogs) so the same article does not appear twice across those three datasets.

Schema

Column Type Description
id int64 Stable row id.
filename string Original filename in the public-domain archive.
book_type string Inferred category (literature, history, …).
text string Book body text.
n_chars int32 Character count.
timestamp timestamp Ingestion timestamp.

Columns dropped at export (kept private as ETL internals): none

Size statistics

Metric Value
Rows 28.2 K (28,245)
Characters 355.91 M (355,905,094)
Estimated tokens (PT-BR, chars / 4.5) 79.09 M
Compressed Parquet on disk ~0.20 GB

Sampled at ~2.0 epochs — the silver corpus has 79.09 M unique tokens, of which 0.158 B were drawn during MagTina350m's single pretrain pass.

Used in MagTina350m pretrain: 0.158 B tokens (0.9 % of MagTina350m's 17.39 B-token pretrain budget).

How to load

from datasets import load_dataset

ds = load_dataset("dataseek/ptbr-books-publicos", split="train", streaming=True)
for row in ds.take(5):
    print(row["text"][:200])

Streaming is recommended for the larger configs. For the smaller datasets (ptbr-dou, ptbr-books-publicos) eager loading is fine.

Licensing

CC0 1.0 / Public Domain. Curated PT-BR books from public-domain sources. Non-PT entries (Italian, English, Spanish, OCR-garbage) and copyrighted types have been filtered out; what remains is freely redistributable.

Upstream attribution: Domínio Público (Brazilian Ministry of Education public-domain archive)

Citation

If you use this dataset, please cite both the upstream source and MagTina350m:

@misc{magtina350m_pretrain_2026,
  title  = {MagTina350m pretrain corpus — PT-BR Public-Domain Books},
  author = {Frasson, Ricardo and {Dataseek Team}},
  year   = 2026,
  publisher = {Hugging Face},
  url    = {https://huggingface.co/datasets/dataseek/ptbr-books-publicos}
}

Please also honour the upstream license terms — for CC-BY-derived data, attribution to the upstream creators is mandatory; for CC-BY-SA, downstream derivatives must remain CC-BY-SA-compatible.

Intended use

  • Pre-training, continued pre-training, or domain-adapting of Brazilian Portuguese language models.
  • PT-BR NLP research where statistically representative public-web / academic / legal / encyclopedic data is needed.
  • Reproducing or improving on the MagTina350m result.

Known limitations and PII statement

  • Text was NOT PII-scrubbed. URLs, emails, phone numbers and personal names that occurred in the source data may still be present. We strip zero-width characters and normalise Unicode but we do not run an NER pass.
  • Crawled data carries upstream biases of CommonCrawl, Wikipedia, news outlets and academic institutions present in the source. We have not audited these.
  • No safety filtering beyond langid and basic alpha-ratio gates. Hate-speech, spam and adult content present in the source remain unless caught incidentally.
  • Provenance preserved at row level. Every row has either a url, source or doc_id column that points back to upstream — this is intentional, so consumers can re-license, redact or filter.

Related releases

License

cc0-1.0

Downloads last month
51