kevmansilla/sentence-embeddings-7

SentenceTransformer based on sentence-transformers/all-MiniLM-L6-v2

This is a sentence-transformers model finetuned from sentence-transformers/all-MiniLM-L6-v2. It maps sentences & paragraphs to a 384-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: sentence-transformers/all-MiniLM-L6-v2
• Maximum Sequence Length: 256 tokens
• Output Dimensionality: 384 dimensions
• Similarity Function: Cosine Similarity

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 256, 'do_lower_case': False, 'architecture': 'BertModel'})
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    'DE REPUBLICA 2955 . .: RUNOR los su 2000 (Comunicaciones A" y por la . A de efectos realizar sobre que auditores las y de, de acuerdo con en "A 2654 2693 EVALUACION LA AUDITORIA EXTERNA En Comunicación A, se modificó el 2.9 Anexo la Comunicación "2654 "2000" de entidades financieras deberá atención a una de la externa . esos se los la "pruebas sustantivas y, correctos para los y tecnologías asociadas críticas Para dicho, los auditores externos 2. y de la presente, en un por al el ambiente en que a cabo mínimo descriptos el punto 1 . con de estos requisitos, el auditor en su Central de podrá basarse en los las el G2000SF (Grupo del Sistema Financiera, han efectuado nivel de adecuación a año 2000". enfoque en la entidad ponga disposición del auditor externo sustente esperados obtenidos pueda que ha en mencionada . externo deberá su informe estuvo la prueba . informe a una, deberá a el contendrá de los ambientes prueba utilizados — de las efectuadas . resultados los — Los externos presentación de este a la "año 2000 de entidad, deberán copias a la Superintendencia de, Gerencia de Externa de Sistemas . Escenarios ambiente (entidades financieras electrónicas de). La auditoría externa realizar las pruebas de las mínimo: de 1999 hábil año . de - Primer nuevo . febrero 2000 - y cierre que las entidades estimen dado se, riesgo fallas no ser detectada a . Con las fechas de deberá de un hábil de operatoria que apertura el cierre ese día las,," "según realizarse en ambientes producción procesamiento sus operaciones (2000) Los que se procesan en sucursales ser por menos en . Si procesa incluir por una cada sistema 2 . - aplicaciones . clientes disponer y atender pasivos que la esta operatoria y su contabilización, se enumeran a las respectivos, según corresponda a cada entidad, como deberán ser probados por externa comercio y también sus transacciones . 3 . - aplicaciones y críticas . Planteado financiero pueda contar servicios de compensación se aplicaciones sus respectivos relacionadas con operatoria diaria . e.',
    'BANCO CENTRAL DE LA REPUBLICA ARGENTINA COMUNICACION "A" 2955 (22/7/99). Ref.: Circular RUNOR 1-351. Adecuación de los sistemas informáticos para su uso a partir del año 2000 (Comunicaciones "A" 2654 y 2693). Evaluación por la auditoría externa. A LAS ENTIDADES FINANCIERAS: Nos dirigimos a Uds. con relación al tema de la referencia, a efectos de realizar algunas aclaraciones y especificaciones sobre las pruebas que deberán realizar los auditores externos de las entidades financieras y cámaras electrónicas de compensación, de acuerdo con lo establecido en las Comunicaciones "A" 2654 y 2693. EVALUACION POR LA AUDITORIA EXTERNA En la Comunicación "A" 2693, por la cual se modificó el punto 2.9 del Anexo I a la Comunicación "A" 2654, se determina que la Comisión "año 2000" de las entidades financieras deberá exigir y prestar especial atención a una serie de informes de la auditoría externa. Uno de esos informes se refiere a los resultados obtenidos en la "realización de pruebas sustantivas y de cumplimiento adecuadas, hasta lograr los resultados correctos, para los sistemas informáticos y tecnologías asociadas críticas". Para lograr dicho objetivo, los auditores externos deberán efectuar las pruebas que se describen en los puntos 2. y 3. de la presente comunicación, en un ambiente preparado por la entidad al efecto. Los escenarios de prueba y el ambiente en que se llevarán a cabo serán, como mínimo, los descriptos en el punto 1. En caso de no cumplirse con alguno de estos requisitos, el auditor externo deberá indicarlo en su informe al Banco Central de la República Argentina. El auditor externo podrá basarse en los resultados de las pruebas, supervisadas por el G2000SF (Grupo 2000 del Sistema Financiera), que las entidades han efectuado para verificar su nivel de adecuación a la "problemática del año 2000". Este enfoque será válido en tanto la entidad ponga a disposición del auditor externo documentación que sustente los resultados esperados y los obtenidos y pueda comprobarse que ha sido emitida el día en que se efectuó la mencionada prueba. El auditor externo deberá incluir en su informe si estuvo presente el día de la prueba. El informe a emitir una vez finalizadas las pruebas, deberá presentarse a más tardar el 31/8/1999 y contendrá: — Una descripción de los ambientes de prueba utilizados. — El detalle de las pruebas efectuadas. — Los resultados esperados y los resultados obtenidos. — Observaciones y recomendaciones. Los auditores externos, simultáneamente con la presentación de este informe a la Comisión "año 2000" de la entidad, deberán remitir dos copias a la Superintendencia de Entidades Financieras y Cambiarias, una a la Gerencia de Auditoría Externa de Sistemas y la otra a la Gerencia de Control de Auditores. 1. Escenarios mínimos a probar y ambiente de prueba a utilizar (entidades financieras y cámaras electrónicas de compensación). La auditoría externa deberá realizar las pruebas de los sistemas críticos simulando los procesos de las siguientes fechas como mínimo: 30 de diciembre de 1999 - Ultimo día hábil del año. 3 de enero de 2000 - Primer día hábil del nuevo año. 29 de febrero de 2000 - Día del año bisiesto y cierre de mes A estas fechas podrán agregarse las que las entidades estimen necesarias, dado que cuantas más fechas se prueben, menor será el riesgo residual de fallas que puedan no ser detectada a tiempo. Con las fechas mencionadas y el correspondiente lote de prueba deberá procesarse la simulación de un día hábil de operatoria, que incluya desde la apertura hasta el cierre de ese día y/o mes, abarcando las respectivas operatorias de sucursales, sus comunicaciones, procesos "on line" y "batch", según sea aplicable. Estas pruebas deberán realizarse en los ambientes de producción que utilizarán para el procesamiento de sus operaciones durante el cambio de año (1999 a 2000). Los sistemas aplicativos que se procesan en distintas sucursales deberán ser probados por lo menos en una sucursal. Si una entidad procesa distintos sistemas en sucursales, se deberá incluir en las pruebas por lo menos una sucursal por cada sistema diferente. 2. Entidades financieras - aplicaciones y transacciones críticas. Planteado como objetivo que los clientes puedan disponer de sus activos financieros y atender sus pasivos financieros y que la entidad pueda cumplir con esta operatoria y su contabilización, se enumeran a continuación las aplicaciones y sus respectivos movimientos o transacciones que, según corresponda a cada entidad, como mínimo deberán ser probados por la auditoría externa. En las entidades financieras con volúmenes importantes de operaciones en comercio exterior y títulos, también deberán probarse sus transacciones críticas. 3. Cámaras electrónicas de compensación - aplicaciones y transacciones críticas. Planteado como objetivo que el sistema financiero pueda contar normalmente con los servicios de las cámaras electrónicas de compensación, se deberán probar todas las aplicaciones y sus respectivos eventos o transacciones relacionadas con su operatoria diaria. e. 2/8 Nº 286.531 v. 2/8/99',
    'ACORDO DE COMPLEMENTAÇÃO ECONÔMICA Nº 18 CELEBRADO ENTRE ARGENTINA, BRASIL, PARAGUAI E URUGUAI (AAP.CE/ 18) Centésimo Quinquagésimo Primeiro Protocolo Adicional Os Plenipotenciários da República Argentina, da República Federativa do Brasil, da República do Paraguai e da República Oriental do Uruguai, acreditados por seus respectivos Governos, segundo poderes outorgados em boa e devida forma, depositados oportunamente na Secretaria-Geral da Associação Latino-Americana de Integração (ALADI). TENDO EM VISTA o Décimo Oitavo Protocolo Adicional ao ACE-18 e a Resolução GMC Nº 43/03. CONVÊM EM: Artigo 1° - Incorporar ao Acordo de Complementação Econômica N° 18 a Diretriz N° 16/18 da Comissão de Comércio do MERCOSUL relativa a “Ações pontuais no âmbito tarifário por razões de abastecimento”, que consta como anexo e integra o presente Protocolo. Artigo 2º - O presente Protocolo entrará em vigor trinta (30) dias depois da notificação da Secretaria-Geral da ALADI aos países signatários de que recebeu a comunicação da Secretaria do MERCOSUL informando a incorporação da norma MERCOSUL e de seu correspondente Protocolo Adicional ao ordenamento jurídico da República Argentina. A Secretaria-Geral da ALADI deverá efetuar tal notificação, se possível, no mesmo dia em que receber a comunicação da Secretaria do MERCOSUL. A Secretaria-Geral da ALADI será depositária do presente Protocolo, do qual enviará cópias devidamente autenticadas aos Governos dos países signatários e à Secretaria do MERCOSUL. EM FÉ DO QUE, os respectivos Plenipotenciários assinam o presente Protocolo na cidade de Montevidéu, aos vinte e nove dias do mês de junho de dois mil e dezoito, em um original nos idiomas português e espanhol, sendo ambos os textos igualmente válidos. (a.:) Pelo Governo da República Argentina: Mauricio Devoto; Pelo Governo da República Federativa do Brasil: Bruno de Rísios Bath; Pelo Governo da República do Paraguai: Bernardino Hugo Saguier Caballero; Pelo Governo da República Oriental do Uruguai: Ana Inés Rocanova Rodríguez.  ANEXO MERCOSUL/CCM/DIR. Nº 16/18 AÇÕES PONTUAIS NO ÂMBITO TARIFÁRIO POR RAZÕES DE ABASTECIMENTO TENDO EM VISTA: O Tratado de Assunção, o Protocolo de Ouro Preto e as Resoluções N° 43/03, 08/08 e 39/11 do Grupo Mercado Comum. CONSIDERANDO: Que a CCM analisou a solicitação apresentada pela República Argentina para aplicação de uma determinada medida tarifária no marco da situação prevista no inciso 1° do Artigo 2º da Resolução GMC Nº 08/08. Que a CCM aprovou a redução tarifária nos termos dispostos na presente norma. A COMISSÃO DE COMÉRCIO DO MERCOSUL APROVA A SEGUINTE DIRETRIZ: Art. 1º - Aprovar no âmbito da Resolução GMC N° 08/08 a redução tarifária solicitada pela República Argentina para o seguinte item tarifário, com as correspondentes especificações sobre limite quantitativo, alíquota e prazo de vigência: NCM 0304.95.00 - - Peixes das famílias Bregmacerotidae, Euclichthyidae, Gadidae, Macrouridae, Melanonidae, Merlucciidae, Moridae e Muraenolepididae, exceto a polaca-do-alasca (escamudo-do-alasca*) (Theragra chalcogramma)                             Nota Referencial: Surimi                             Limite quantitativo: 400 toneladas                             Prazo: 12 meses                             Alíquota: 2% Art. 2° - Solicitar aos Estados Partes signatários do Acordo de Complementação Econômica Nº 18 (ACE Nº 18) que instruam suas respectivas Representações junto à Associação Latino-Americana de Integração (ALADI), a protocolizar a presente Diretriz no âmbito do ACE Nº 18, nos termos estabelecidos na Resolução GMC Nº 43/03. Art. 3º - Esta Diretriz necessita ser incorporada apenas ao ordenamento jurídico interno da República Argentina. Esta incorporação deverá ser realizada antes de 09/VII/2018. CLVII CCM - Montevidéu, 10/V/18.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 384]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[1.0000, 0.8926, 0.0039],
#         [0.8926, 1.0000, 0.0225],
#         [0.0039, 0.0225, 1.0000]])

Training Details

Training Dataset

Unnamed Dataset

• Size: 72,304 training samples
• Columns: sentence_0 and sentence_1
• Approximate statistics based on the first 1000 samples:

  	sentence_0	sentence_1
  type	string	string
  details	min: 11 tokens mean: 192.55 tokens max: 256 tokens	min: 39 tokens mean: 230.94 tokens max: 256 tokens

• Samples:

  sentence_0	sentence_1
  Ley 22.687 DE DE ACUERDO LOS REMON Y 1-26 CENTRAL DE LA REPUBLICA, 2 diciembre 1982 de conferidas del Estato para . PRESIDENTE LA NACION CON FUERZA DE: comprendidos en actos hubieran lugar tengan en los Operaciones Movimientos de Fondos - 1 26 del Banco Central la dadas a de "" "" 5 julio Institución y modificatorias sanción . . garantias hipotecarias las deudas a acuerdo con regímenes consideran las jurisdicciones razón las inscripciones de disposición pedido financiera su mediante sin intervención notarial . de refinanciación las entidades financieras hubiesen estado los bienes, del acuerdo retroactivo pedido, que a la del plazo los . El ejecutivo que se integrará original instrumento acuerdo el que . El de Justicia la dictara las del artículo, en el área ARTICULO 3 . - Las mencionadas Ley las inscripciones a diere lugar el de esta, no tributarán el . La refinanciación los en términos indicados en el será de mismos los contemplados 47 segundo de la Ley Impuesto Sellos Decreto 276 del...	Ley 22.687 REFINANCIACION DE DEUDAS DE ACUERDO CON LOS REGIMENES DISPUESTOS POR LAS CIRCULARES REMON 1-22 Y CAMEX 1-26 DEL BANCO CENTRAL DE LA REPUBLICA ARGENTINA. BUENOS AIRES, 2 de diciembre de 1982 En uso de las atribuciones conferidas por el artículo 5 del Estato para el proceso de Reorganización Nacional. EL PRESIDENTE DE LA NACION ARGENTINA SANCIONA Y PROMULGA CON FUERZA DE LEY: ARTICULO 1. - Quedan comprendidos en esta Ley los actos jurídicos que hubieran tenido lugar o tengan lugar en virtud de los regímenes dispuestos por las circulares Regulaciones Monetarias -Remon 1 - 22 y Operaciones Cambiarias y Movimientos de Fondos y Valores con el Exterior - Camex 1 - 26 del Banco Central de la Republica Argentina respectivamente, dadas a conocer por medio de las Comunicaciones "A" 144 y "A" 137 del 5 de julio de 1982 de dicha Institución y circulares modificatorias y complementarias dictadas hasta la fecha de sanción de esta Ley. ARTICULO 2. - Las garantias hipotecarias o prendaria...
  ALMEIDA/RJ}" Paim terceirização existe há muito uma forma de escravização as o conosco O que fiscalização empresas, a . SANTOS/BA} Solicito fiscalização Assentamento Fazenda, Dom Gosto, em Ilhéus trabalho, não há" BRITO} qual um de policial rodoviário ao um também salas não sobre categoria de . MARIA DE FÁTIMA EDELMANN/SP é necessário que a de procuradores delegados seja em 100% pois de, acabar com" QUE PRF ESTÁ FAZENDO A ESSE DESRESPEITO HUMANOS FOI COMETIDO COM A ELIMINAÇÃO COM NO DE CURSO DE FORMAÇÃO E #NOMEIAOPCDPRF!!, da precisar de, arbitrariamente com de especiais . o de formação ainda não estou tendo que justiça posso {da A de para existem colaboradores há em fazendas serem"	{REGINALDO GOMES DE ALMEIDA/RJ}"Senador Paim, a terceirização existe há muito tempo, sendo uma forma de escravização dos trabalhadores, pois as empresas fazem o que querem conosco. O grande problema é que não há fiscalização dessas empresas, mesmo com a atual legislação." {REINALDO MENDES DOS SANTOS/BA}"Solicito uma fiscalização ao Assentamento Fazenda Cachoeira, antiga Dom Gosto, em Ilhéus /BA, pois ocorre trabalho escravo, e não há segurança e nem água." {SEVERINO JOSÉ DE BRITO LIMA/AL} "Gostaria de saber da mesa qual é o salário de um auditor-fiscal e de um policial rodoviário federal comparado ao salário de um professor que também apanha dentro das salas aulas, e não vejo providência sobre a categoria de professor." {MARIA DE FÁTIMA ANSELMO EDELMANN/SP} "Afirmo que é necessário que a segurança de Juízes, procuradores e delegados seja reforçada em 100%, pois a violência cresce de forma gradativa, e nada é feito para acabar com o problema." O QUE A PRF ESTÁ FAZENDO COM RELAÇÃO A ESSE...
  MERCOSUL/GMC/RES 69/08 SECRETARIA DO O 2009 Assunção o para Nº 37/03 do Comum e, 27/08 68/08 do Mercado Comum; CONSIDERANDO: Que, termos do 66/05 corresponde ao do a elaboração, a apresentação orçamento da), deve ser Grupo Mercado controlado Grupo Assuntos; Que os a ST no pagamento das contribuições Estados primeiro de ano O RESOLVE: . da do Tribunal Permanente de Exercício Anexo e presente . 2º Autorizar Secretaria do Tribunal Permanente Revisão, caso disponha nível de recursos de dos Estados, saldo de excedentes de exercícios de US $(e e um dólares estadunidenses centavos pagamento despesas aprovado para . prejuízo execução orçamentária, utilizados estabelecido no Art da presente deverão à de à os Estados Partes Art 4º - ser incorporada Partes até (Nº 6º) – 11/XII/08 RECEITAS) ESTADOS PARTES 354.926 88.731,50 88.731,50 TOTAL (A 354.926 DESPESAS I CORRENTES EM 262.223 E SEGURO - SECRETÁRIO DEMAIS SALÁRIO TPR 5.741 5.967 BENEFÍCIOS SOCIAIS AUXÍLIO - DE PARA GASTOS TRASLADO AUXÍLIO PARA...	MERCOSUL/GMC/RES. Nº 69/08 ORÇAMENTO DA SECRETARIA DO TRIBUNAL PERMANENTE DE REVISÃO PARA O EXERCÍCIO 2009 TENDO EM VISTA: O Tratado de Assunção, o Protocolo de Ouro Preto, o Protocolo de Olivos para a Solução de Controvérsias no MERCOSUL, a Decisão Nº 37/03 do Conselho Mercado Comum e as Resoluções Nº 50/03, 66/05, 72/06, 55/07, 27/08, 58/08 e 68/08 do Grupo do Mercado Comum; CONSIDERANDO: Que, nos termos do Artigo 9º da Resolução GMC Nº 66/05, corresponde ao Secretário do Tribunal Permanente de Revisão a elaboração, a apresentação e a execução do orçamento da Secretaria do Tribunal (ST), que deve ser aprovado pelo Grupo Mercado Comum e controlado pelo Grupo de Assuntos Orçamentários (GAO); e Que é conveniente assegurar os recursos para a execução orçamentária da ST no período anterior ao pagamento das contribuições dos Estados Partes relativas ao primeiro trimestre de cada ano, O GRUPO MERCADO COMUM RESOLVE: Art. 1º - Aprovar o “Orçamento da Secretaria do Tribunal P...

• Loss: DenoisingAutoEncoderLoss

Training Hyperparameters

Non-Default Hyperparameters

• num_train_epochs: 7
• multi_dataset_batch_sampler: round_robin

All Hyperparameters

Click to expand

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: no
• prediction_loss_only: True
• per_device_train_batch_size: 8
• per_device_eval_batch_size: 8
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 5e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1
• num_train_epochs: 7
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.0
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• use_ipex: False
• bf16: False
• fp16: False
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: False
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch_fused
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• hub_revision: None
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: False
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• liger_kernel_config: None
• eval_use_gather_object: False
• average_tokens_across_devices: False
• prompts: None
• batch_sampler: batch_sampler
• multi_dataset_batch_sampler: round_robin
• router_mapping: {}
• learning_rate_mapping: {}

Training Logs

Click to expand

Epoch	Step	Training Loss
0.0553	500	9.4406
0.1106	1000	6.6348
0.1660	1500	5.6824
0.2213	2000	5.0186
0.2766	2500	4.5112
0.3319	3000	4.1606
0.3873	3500	3.8236
0.4426	4000	3.5896
0.4979	4500	3.3215
0.5532	5000	3.1827
0.6085	5500	3.0181
0.6639	6000	2.9478
0.7192	6500	2.8106
0.7745	7000	2.7291
0.8298	7500	2.6446
0.8852	8000	2.5738
0.9405	8500	2.5276
0.9958	9000	2.484
1.0511	9500	2.4546
1.1064	10000	2.4226
1.1618	10500	2.3501
1.2171	11000	2.3225
1.2724	11500	2.3124
1.3277	12000	2.2772
1.3830	12500	2.2422
1.4384	13000	2.208
1.4937	13500	2.2116
1.5490	14000	2.1868
1.6043	14500	2.1382
1.6597	15000	2.1648
1.7150	15500	2.1271
1.7703	16000	2.1525
1.8256	16500	2.1173
1.8809	17000	2.1124
1.9363	17500	2.0621
1.9916	18000	2.0677
2.0469	18500	2.0542
2.1022	19000	2.0395
2.1576	19500	2.021
2.2129	20000	2.0297
2.2682	20500	1.9819
2.3235	21000	2.0126
2.3788	21500	1.9745
2.4342	22000	1.9622
2.4895	22500	1.9753
2.5448	23000	1.9647
2.6001	23500	1.9459
2.6555	24000	1.9561
2.7108	24500	1.9334
2.7661	25000	1.9289
2.8214	25500	1.9291
2.8767	26000	1.9374
2.9321	26500	1.9314
2.9874	27000	1.8866
3.0427	27500	1.8894
3.0980	28000	1.8928
3.1534	28500	1.8643
3.2087	29000	1.8784
3.2640	29500	1.8624
3.3193	30000	1.8643
3.3746	30500	1.879
3.4300	31000	1.8872
3.4853	31500	1.8226
3.5406	32000	1.8453
3.5959	32500	1.8463
3.6513	33000	1.8514
3.7066	33500	1.8026
3.7619	34000	1.7881
3.8172	34500	1.836
3.8725	35000	1.8128
3.9279	35500	1.816
3.9832	36000	1.8405
4.0385	36500	1.824
4.0938	37000	1.7962
4.1491	37500	1.7945
4.2045	38000	1.7771
4.2598	38500	1.7691
4.3151	39000	1.7771
4.3704	39500	1.7727
4.4258	40000	1.7782
4.4811	40500	1.7714
4.5364	41000	1.7604
4.5917	41500	1.7773
4.6470	42000	1.7653
4.7024	42500	1.7822
4.7577	43000	1.7923
4.8130	43500	1.7714
4.8683	44000	1.7505
4.9237	44500	1.7567
4.9790	45000	1.7548
5.0343	45500	1.7499
5.0896	46000	1.7155
5.1449	46500	1.751
5.2003	47000	1.7606
5.2556	47500	1.736
5.3109	48000	1.7182
5.3662	48500	1.7402
5.4216	49000	1.7511
5.4769	49500	1.7208
5.5322	50000	1.73
5.5875	50500	1.707
5.6428	51000	1.7326
5.6982	51500	1.7182
5.7535	52000	1.7383
5.8088	52500	1.7293
5.8641	53000	1.7131
5.9195	53500	1.7284
5.9748	54000	1.7012
6.0301	54500	1.7385
6.0854	55000	1.7415
6.1407	55500	1.6977
6.1961	56000	1.6918
6.2514	56500	1.7192
6.3067	57000	1.7117
6.3620	57500	1.6932
6.4173	58000	1.7157
6.4727	58500	1.7145
6.5280	59000	1.6943
6.5833	59500	1.7026
6.6386	60000	1.6904
6.6940	60500	1.6871
6.7493	61000	1.7005
6.8046	61500	1.6918
6.8599	62000	1.7011
6.9152	62500	1.6926
6.9706	63000	1.7139

Framework Versions

• Python: 3.9.21
• Sentence Transformers: 5.1.0
• Transformers: 4.56.1
• PyTorch: 2.8.0+cu128
• Accelerate: 1.10.1
• Datasets: 4.1.1
• Tokenizers: 0.22.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

DenoisingAutoEncoderLoss

@inproceedings{wang-2021-TSDAE,
    title = "TSDAE: Using Transformer-based Sequential Denoising Auto-Encoderfor Unsupervised Sentence Embedding Learning",
    author = "Wang, Kexin and Reimers, Nils and Gurevych, Iryna",
    booktitle = "Findings of the Association for Computational Linguistics: EMNLP 2021",
    month = nov,
    year = "2021",
    address = "Punta Cana, Dominican Republic",
    publisher = "Association for Computational Linguistics",
    pages = "671--688",
    url = "https://arxiv.org/abs/2104.06979",
}