Instructions to use Finisha-F-scratch/Charlotte-tchat with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Finisha-F-scratch/Charlotte-tchat with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Finisha-F-scratch/Charlotte-tchat")

# Load model directly
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Charlotte-tchat")
model = AutoModelForSeq2SeqLM.from_pretrained("Finisha-F-scratch/Charlotte-tchat")

Notebooks
Google Colab
Kaggle
Local Apps

vLLM

How to use Finisha-F-scratch/Charlotte-tchat with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Finisha-F-scratch/Charlotte-tchat"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Charlotte-tchat",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker

docker model run hf.co/Finisha-F-scratch/Charlotte-tchat

SGLang

How to use Finisha-F-scratch/Charlotte-tchat with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Finisha-F-scratch/Charlotte-tchat" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Charlotte-tchat",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Finisha-F-scratch/Charlotte-tchat" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Charlotte-tchat",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Docker Model Runner
How to use Finisha-F-scratch/Charlotte-tchat with Docker Model Runner:
```
docker model run hf.co/Finisha-F-scratch/Charlotte-tchat
```

🌸 Charlotte-tchat | SLM Conversationnel par NaA

Bienvenue sur la page officielle de Charlotte-tchat, un Small Language Model (SLM) spécialisé et indépendant, conçu entièrement de zéro par l'organisation NaA.

📖 Présentation du Modèle

Charlotte-tchat est la version conversationnelle et interactive de la lignée de modèles "Charlotte". Avec seulement 0,3 milliard de paramètres, ce modèle prouve que la performance ne dépend pas toujours de la taille, mais de la précision de l'entraînement.

Contrairement aux modèles généralistes, Charlotte-tchat est une IA thématique. Elle a été forgée pour être une compagne de dialogue centrée sur les valeurs humaines.

🎯 Spécialisations & Capacités

Le modèle a été finement entraîné sur un dataset spécifique de plus de 2000 paires de questions/réponses portant sur :

✨ L'Espoir : Encouragement, résilience et vision positive.
🤝 L'Amitié : Conseils relationnels, soutien et loyauté.
⚖️ L'Éthique : Réflexions morales et intégrité.

Points forts :

Compréhension Contextuelle : Capable de suivre le fil d'une discussion.
Intégration Active : Charlotte peut réutiliser des éléments de vos questions pour formuler des réponses personnalisées et cohérentes.
Légèreté : Grâce à ses 0,3B de paramètres, elle est extrêmement rapide et peu gourmande en ressources.

⚠️ Limitations & Philosophie (Design Intentionnel)

Charlotte-tchat n'est pas un modèle généraliste.

Note importante : Si le modèle est sollicité sur des sujets hors de son domaine d'expertise (sciences dures, calculs, actualités politiques, etc.), il peut produire des hallucinations ou mélanger les faits. C'est un comportement voulu : Nous avons privilégié la profondeur émotionnelle et thématique plutôt que l'encyclopédisme.

🛠️ Détails Techniques

Développeuse principale : Clemylia (18 ans)
Organisation : NaA (Indépendante)
Architecture : Créée de zéro (From scratch)
Paramètres : 300M (0.3B)
Dataset : +2000 Q/A spécialisés sur l'espoir, l'amitié et l'éthique.

🤝 À propos de NaA

NaA est une organisation de création d'IA composée exclusivement de jeunes passionnés âgés de 13 à 22 ans. Nous croyons en une IA plus humaine, transparente et accessible, développée de manière indépendante.

📜 Licence & Citation

Si vous utilisez Charlotte-tchat dans vos recherches ou projets, merci de citer le travail de l'organisation NaA et de respecter la licence LRUNDL présente dans ce dépôt.

Downloads last month: 9

Safetensors

Model size

0.3B params

Tensor type

F32

Space using Finisha-F-scratch/Charlotte-tchat 1

Collections including Finisha-F-scratch/Charlotte-tchat