Datasets:
id int64 1.6k 105k | filename stringlengths 12 12 | book_type stringclasses 24
values | text stringlengths 7.3k 16.6k | n_chars int32 7.3k 16.6k | timestamp timestamp[us]date 2025-12-11 19:05:11 2025-12-11 20:39:12 |
|---|---|---|---|---|---|
103,919 | ue000323.pdf | ue | empolgado pelas vitórias fáceis, saqueava descaradamente o país e não queria renunciar aos “frutos da vitória”. O decreto de 22 de julho de 1834, para o estabelecimento de um governo geral das possessões francesas na África do Norte, significava a renúncia à eva- cuação de Argel. A concepção da “ocupação... | 12,893 | 2025-12-11T20:38:27.136000 |
103,920 | ue000323.pdf | ue | Império. Ademais, em 1852, Napoleão III ab‐rogou a representação dos europeus da Argélia no parlamento francês e, em 1860, após uma visita à Argélia, condenou definitivamente a política de assimilação. O “romantismo” dos oficiais superou o “mercantilismo” dos colo- nos. Para contrabalançar a influência d... | 13,648 | 2025-12-11T20:38:27.187000 |
103,921 | ue000323.pdf | ue | vezes, havia chefes designados, mas não dirigentes absolutos. Apenas a participação das confrarias religiosas unia‐os em uma guerra santa para o triunfo da fé. A primeira insurreição deste tipo teve lugar na Tunísia: começou no mês de março de 1864 e se alastrou por todo o país. ‘Alī ibn Guedahem, “o bei d... | 12,982 | 2025-12-11T20:38:27.236000 |
103,922 | ue000323.pdf | ue | da Líbia. As precipitações aumentam com a altitude, até certo relevo, e a configuração das terras saarianas apresenta tanta diversidade quanto o clima. Após as chuvas, cursos d’água até então secos, os wādī, podem novamente fluir por centenas de quilômetros, em grandes superfícies apenas recobertas por um... | 13,395 | 2025-12-11T20:38:27.287000 |
103,923 | ue000323.pdf | ue | D. D. Cordell, 1977a; E. E. Evans‐Pritchard, 1949. 598 África do século XIX à década de 1880 rumo ao Sul, seguindo a rota das caravanas entre Fezzān e Borno. Anterior- mente, ‘Abd al‐Djalīl concluíra alianças matrimoniais com importantes famílias do Borno, operação cujo objetivo consistia em apoiar os plan... | 13,468 | 2025-12-11T20:38:27.336000 |
103,924 | ue000323.pdf | ue | Em outro caso, circunstâncias econômicas excepcionais, resultantes da pene- tração francesa no deserto, ao longo dos anos 1850 e 1860, facilitaram a realiza- ção de uma ação unificada entre os tuaregues do Hoggar. Isolado dos mercados do Norte, o Hoggar transformou a sua base econômica. Em consequência de uma... | 13,330 | 2025-12-11T20:38:27.387000 |
103,925 | ue000323.pdf | ue | 1961‐1963, vol. 2, pp. 158‐163; vol, 3, pp. 74‐75. 608 África do século XIX à década de 1880 fenômeno seja frequentemente citado para explicar as dificuldades comerciais da Argélia, ele merece reavaliação à luz de recentes indicações segundo as quais o comércio argelino dos escravos não teria jamais sid... | 13,064 | 2025-12-11T20:38:27.437000 |
103,926 | ue000323.pdf | ue | quais já se beneficiavam os saqueadores34. No deserto, a introdu- ção de moderno armamento de repetição aparenta ter sobretudo acontecido ao longo da rota Benghazi‐Ouadaī; no entanto, outras regiões foram igualmente servidas. Joseph Smaldone reuniu indicações segundo as quais uma reviravolta na distribuição... | 13,055 | 2025-12-11T20:38:27.486000 |
103,927 | ue000323.pdf | ue | século XIX na África do Oeste Aziz Batran 620 África do século XIX à década de 1880 brado em explosões de violência − nasceriam três califados: Sokoto, no Norte da Nigéria, Hamdallahi, no Macina, e o califado tijāniyya, da Senegâmbia e do Macina. O pano de fundo religioso dos movimentos reformistas As jihad... | 12,705 | 2025-12-11T20:38:27.537000 |
103,928 | ue000323.pdf | ue | eles nele encon- travam, a um só tempo, o alimento espiritual e o seu meio de subsistência. Eles compartilhavam as suas preocupações religiosas com os clãs escolásticos zāwiya, vizinhos do Saara Ocidental17. Todavia, diferentemente dos clãs zāwiya, os quais constituíam, cada um deles, uma distinta unidade ét... | 12,896 | 2025-12-11T20:38:27.587000 |
103,929 | ue000323.pdf | ue | chamado do seu xeque, bem como a lutarem e morrerem por ele. Aos seus olhos, com efeito, os xeques eram, espiritual e intelectualmente, superiores a todos os outros ‘ulamā’. Eles eram os santos favoritos de Alá, detentores da baraka (benção divina e poder milagroso), além de representarem os únicos laços entre o... | 13,329 | 2025-12-11T20:38:27.637000 |
103,930 | ue000323.pdf | ue | seus sujeitos. Além disso, eles se associaram econômica e politicamente aos franceses, por eles autorizados a 40 W. A. Brown, 1969, p. 182, nota 25. 41 Ibid., passim. Foi em Nukuma que ocorreu a decisiva batalha, a qual permitiu a criação do califado de Hamdallahi. 634 África do século XIX à década de 1880 cons... | 13,144 | 2025-12-11T20:38:27.686000 |
103,931 | ue000323.pdf | ue | e equipados, os quais tinham sido por ele próprio iniciados durante as suas numerosas viagens em todo o Sudão Ocidental. Todavia, a sua trágica morte no Macina (1864) impôs um termo a esta progressão para o Leste. Comentários sobre algumas consequências dos jihad Foi a primeira e, talvez igualmente, a última ve... | 13,315 | 2025-12-11T20:38:27.737000 |
103,932 | ue000323.pdf | ue | por um dos seus companheiros em: U. F. Malumfashi, 1973. Para uma nova análise do movimento, reposicionado no contexto oeste‐africano, consultar M. Last, 1988. 2 No tocante ao Mandara, conferir B. M. Barkindo, 1983. Sobre o Borno no século XVIII, referir‐se a J. E. Lavers, 1980, pp. 206‐209. Aparentemente, Daya fi... | 12,946 | 2025-12-11T20:38:27.786000 |
PT-BR Public-Domain Books
Part of the MagTina350m pretrain corpus release by Dataseek
under the Magestic.ai brand. This is one of nine silver-layer datasets that fed
dataseek/magtina350m-base.
Summary
28 K curated Brazilian-Portuguese public-domain books. Used at ~2 epochs in MagTina350m pretrain (79 M unique tokens sampled to 158 M consumed). Useful as a small but high-quality literary slice.
Source and collection method
Curated public-domain Brazilian books (Domínio Público + similar archives) → filename / book_type classification → drop non-PT types → alpha-ratio filter → text normalisation.
ETL script (in the MagTina1B repository): scripts/etl/03_books_publicos_v1.py (public release of the ETL scripts is on the roadmap; until then the data card below documents the recipe in full).
Filters and deduplication
The following filters were applied before this dataset reached its silver (release-ready) state:
- PT-only book types (drop italian/english/spanish/OCR-garbage)
- alpha_ratio ≥ 0.65
- len(text) ≥ 1 000 chars
Global URL-normalised deduplication was applied across all web-derived corpora
(webpages, news, blogs) so the same article does not appear twice across
those three datasets.
Schema
| Column | Type | Description |
|---|---|---|
id |
int64 |
Stable row id. |
filename |
string |
Original filename in the public-domain archive. |
book_type |
string |
Inferred category (literature, history, …). |
text |
string |
Book body text. |
n_chars |
int32 |
Character count. |
timestamp |
timestamp |
Ingestion timestamp. |
Columns dropped at export (kept private as ETL internals): none
Size statistics
| Metric | Value |
|---|---|
| Rows | 28.2 K (28,245) |
| Characters | 355.91 M (355,905,094) |
| Estimated tokens (PT-BR, chars / 4.5) | 79.09 M |
| Compressed Parquet on disk | ~0.20 GB |
Sampled at ~2.0 epochs — the silver corpus has 79.09 M unique tokens, of which 0.158 B were drawn during MagTina350m's single pretrain pass.
Used in MagTina350m pretrain: 0.158 B tokens (0.9 % of MagTina350m's 17.39 B-token pretrain budget).
How to load
from datasets import load_dataset
ds = load_dataset("dataseek/ptbr-books-publicos", split="train", streaming=True)
for row in ds.take(5):
print(row["text"][:200])
Streaming is recommended for the larger configs. For the smaller datasets
(ptbr-dou, ptbr-books-publicos) eager loading is fine.
Licensing
CC0 1.0 / Public Domain. Curated PT-BR books from public-domain sources. Non-PT entries (Italian, English, Spanish, OCR-garbage) and copyrighted types have been filtered out; what remains is freely redistributable.
Upstream attribution: Domínio Público (Brazilian Ministry of Education public-domain archive)
Citation
If you use this dataset, please cite both the upstream source and MagTina350m:
@misc{magtina350m_pretrain_2026,
title = {MagTina350m pretrain corpus — PT-BR Public-Domain Books},
author = {Frasson, Ricardo and {Dataseek Team}},
year = 2026,
publisher = {Hugging Face},
url = {https://huggingface.co/datasets/dataseek/ptbr-books-publicos}
}
Please also honour the upstream license terms — for CC-BY-derived data, attribution to the upstream creators is mandatory; for CC-BY-SA, downstream derivatives must remain CC-BY-SA-compatible.
Intended use
- Pre-training, continued pre-training, or domain-adapting of Brazilian Portuguese language models.
- PT-BR NLP research where statistically representative public-web / academic / legal / encyclopedic data is needed.
- Reproducing or improving on the MagTina350m result.
Known limitations and PII statement
- Text was NOT PII-scrubbed. URLs, emails, phone numbers and personal names that occurred in the source data may still be present. We strip zero-width characters and normalise Unicode but we do not run an NER pass.
- Crawled data carries upstream biases of CommonCrawl, Wikipedia, news outlets and academic institutions present in the source. We have not audited these.
- No safety filtering beyond langid and basic alpha-ratio gates. Hate-speech, spam and adult content present in the source remain unless caught incidentally.
- Provenance preserved at row level. Every row has either a
url,sourceordoc_idcolumn that points back to upstream — this is intentional, so consumers can re-license, redact or filter.
Related releases
- Model:
dataseek/magtina350m-base(354.6 M params, pretrained on this corpus + 8 sibling datasets) - Instruct model:
dataseek/magtina350m-instruct - Sibling datasets: see
dataseek/ptbr-*for all nine corpora
License
- Downloads last month
- 51