| ---
|
| license: mit
|
| task_categories:
|
| - text-generation
|
| - text2text-generation
|
| language:
|
| - ru
|
| tags:
|
| - art
|
| pretty_name: dataset Russian literature
|
| size_categories:
|
| - 100K<n<1M
|
| ---
|
|
|
| # Датасет качественной русской литературы
|
|
|
| ## Описание
|
|
|
| Данный датасет представляет собой обширную коллекцию качественной русской литературы, тщательно отфильтрованной от ссылок и HTML-тегов. Корпус текстов охватывает разнообразные произведения и предназначен для использования в задачах обработки естественного языка, анализа текстов и машинного обучения.
|
|
|
| Особенности коллекции:
|
| - **Разнообразие источников**: собрана из открытых электронных библиотек
|
| - **Широкий охват жанров**: от классической прозы до современной фантастики
|
| - **Исторический диапазон**: от древних текстов (включая библейские) до произведений января 2024 года
|
| - **Жанровое разнообразие**: преобладают художественные тексты, особенно фэнтези и фантастика, с небольшой долей научной литературы
|
|
|
| ## Структура датасета
|
|
|
| Датасет разделен на 7 файлов:
|
| - Первые 6 файлов: примерно по 1 ГБ каждый
|
| - 7-й файл: около 0.5 ГБ
|
|
|
| Общий объем — около **47 миллионов строк** текста, что делает этот корпус одним из наиболее значительных собраний русскоязычной литературы в цифровом формате.
|
|
|
| ### Формат файлов
|
|
|
| Каждый файл имеет следующую структуру:
|
| - Начинается с тега `<DATASET_START>`
|
| - Заканчивается тегом `<DATASET_END>`
|
| - Внутри содержится множество отдельных текстов, каждый из которых:
|
| - Начинается с тега `<startoftext>`
|
| - Заканчивается тегом `<endoftext>`
|
|
|
| **Примечание**: Тексты не очищены от лишних пробелов и переносов строк, что сохраняет оригинальное форматирование произведений.
|
|
|
| ## Состав и характеристики датасета
|
|
|
| ### Распределение по языкам
|
|
|
| 
|
|
|
| Как видно из графика:
|
| - Русский язык: около 70% контента
|
| - Английский язык: около 17% контента
|
| - Другие языки: украинский, польский, немецкий и т.д.
|
|
|
| Такое разнообразие языков отражает культурное взаимодействие и литературное влияние различных культур, особенно в классических и переводных произведениях.
|
|
|
| ### Распределение по размеру текстов
|
|
|
| 
|
|
|
| Большинство текстов в датасете содержат до 100 000 слов, что соответствует типичному размеру романа или повести. Присутствуют как небольшие рассказы, так и объемные произведения.
|
|
|
| 
|
|
|
| На гистограмме отмечены медиана и среднее значение размеров текстов, что помогает оценить типичный объем произведений в коллекции.
|
|
|
| ### Частотность слов
|
|
|
| #### Самые популярные слова в русских текстах
|
| 
|
|
|
| #### Самые популярные слова в английских текстах
|
| 
|
|
|
| Как и ожидалось, наиболее частотными являются служебные части речи: предлоги, союзы и т.д. ("и", "в", "не", "на", "что" и другие). Эта статистика отражает типичное распределение частот слов в естественном языке и подтверждает лингвистический закон Ципфа.
|
|
|
| ## Использование датасета
|
|
|
| Данный датасет может быть полезен для:
|
| - Генерации художественного текста в различных жанрах
|
| - Обучения языковых моделей на разнообразном литературном материале
|
| - Лингвистических исследований русского языка и литературы
|
| - Анализа литературных стилей и жанровых особенностей
|
| - Задач классификации и кластеризации текстов
|
|
|
| |
