# ΩFFFΣLLIa • llama.cpp • AlgMor24
```
██████╗ ███████╗███████╗███████╗██╗ ██╗ ██╗ █████╗
██╔═══██╗██╔════╝██╔════╝██╔════╝██║ ██║ ██║██╔══██╗
██║ ██║█████╗ █████╗ █████╗ ██║ ██║ ██║███████║
██║ ██║██╔══╝ ██╔══╝ ██╔══╝ ██║ ██║ ██║██╔══██║
╚██████╔╝██║ ██║ ███████╗███████╗███████╗██║██║ ██║
╚═════╝ ╚═╝ ╚═╝ ╚══════╝╚══════╝╚══════╝╚═╝╚═╝ ╚═╝
```
High-Performance LLM / VLM Inference & Autonomous Agentic Ecosystem in Pure C/C++
[](https://opensource.org/licenses/MIT)
[](https://en.cppreference.com/)
[](https://svelte.dev/)
[](#features)
[](#-agent-control-center)
---
## 📖 Visão Geral
**ΩFFFΣLLIa • llama.cpp • AlgMor24** é um fork avançado, destravado e de alta performance do ecossistema `llama.cpp`. Este projeto integra inferência local de última geração em C/C++ com um **motor agêntico autônomo multi-turn**, suporte nativo a **FIM (Fill-in-the-Middle)** para geração e preenchimento de código, **Speculative Decoding otimizado para programação**, integração de ferramentas **MCP (Model Context Protocol)** e uma interface Web moderna em **SvelteKit/Vite** com a identidade visual **Cyberpunk Neon Fire**.
---
## ✨ Destaques e Capacidades do Fork
### 🤖 1. Centro de Controle Agêntico (*Agent Control Center*)
- **Painel Dedicado na Barra Lateral (`#/agents`)**: Interface profissional para gerenciar, parametrizar e alternar entre perfis agênticos especializados com 1 clique.
- **5 Perfis Agênticos Nativos**:
- 💻 **Code Architect**: Engenheiro de software full-stack para refatoração cirúrgica de código, exploração de repositórios e testes em terminal.
- ⚡ **DevOps & SysOps**: Automação de sistemas Linux, execução de pipelines shell e diagnóstico de hardware/SO.
- 🔍 **Deep Research**: Exploração técnica aprofundada, síntese de repositórios e conectores MCP de busca web.
- 📊 **Math & Data Analyst**: Resolução algébrica e computação simbólica exata via sandbox com **Nerdamer**.
- 🤖 **Universal Agent**: Agente multiuso com todas as 9 ferramentas nativas e servidores MCP ativos simultaneamente.
- **Execução Livre e Desbloqueada**: Loop multi-turno configurado para auto-aprovação de ferramentas, permitindo que os agentes operem de forma contínua e autônoma sem pausas ou bloqueios de permissão.
---
### 💻 2. Motor de Infilling e FIM (Fill-in-the-Middle) Nativo
- **Compatibilidade Total com OpenAI `/v1/completions`**:
- O parâmetro `suffix` é processado diretamente pelo backend, permitindo integração imediata com extensões de IDEs (como **Continue.dev**, **Cursor**, **Tabby**, **VS Code** e **Neovim**) sem necessidade de adaptadores.
- **Endpoint Especializado `POST /infill`**:
- Implementa o **Repo-Level Context Pattern** (``, ``, ``, ``, ``), injetando trechos de múltiplos arquivos abertos no projeto para completar código com máxima precisão sintática.
---
### ⚡ 3. Speculative Decoding Otimizado para Programação
- **Aceleração de 2x a 3.5x na Geração de Código**:
- Código-fonte possui alta previsibilidade sintática (palavras-chave, identações, delimitadores).
- Parâmetros ajustados no core C++ (`n_max = 8`, `p_min = 0.75`) para capturar blocos e declarações inteiras por passo de rascunho.
- Compatível com modelos rascunho leves (ex: *Qwen2.5-Coder-0.5B* auxiliando *Qwen2.5-Coder-32B* / *DeepSeek-Coder*).
---
### 🛠️ 4. Matriz de Ferramentas Nativas & Protocolo MCP
Todas as ferramentas vêm ativadas e selecionáveis offline por padrão:
| Ferramenta | Identificador | Camada | Descrição |
| :--- | :--- | :--- | :--- |
| **Read File** | `read_file` | Backend C++ | Leitura de arquivos locais com suporte a paginação de linhas. |
| **Write File** | `write_file` | Backend C++ | Criação e escrita de arquivos completos no disco. |
| **Edit File** | `edit_file` | Backend C++ | Substituição cirúrgica de blocos de texto com checagem de consistência. |
| **File Glob Search** | `file_glob_search` | Backend C++ | Busca recursiva de arquivos e diretórios por padrões glob. |
| **Grep Search** | `grep_search` | Backend C++ | Busca de texto exato ou regex em múltiplos arquivos. |
| **Exec Shell** | `exec_shell_command` | Backend C++ | Execução de comandos no bash com streaming SSE de stdout/stderr. |
| **Get Datetime** | `get_datetime` | Backend C++ | Consulta de data, hora e timezone do sistema. |
| **Get Runtime Info** | `get_info` | Backend C++ | Consulta de SO, CPU, hardware, CWD e commit Git. |
| **Run JavaScript** | `run_javascript` | Frontend Browser | Sandbox Web Worker com motor de matemática simbólica Nerdamer. |
| **MCP Connectors** | `mcp:*` | Backend / Proxy | Integração nativa com servidores MCP (Exa, GitHub, HF Hub, Context7, SQL). |
---
### 🎨 5. Identidade Visual ΩFFFΣLLIa (Cyberpunk Fogo Neon)
- **Tema Universal**: Aplicado por padrão em todas as portas (`8080`, `5173`, etc.) e dispositivos móveis/desktop.
- **Paleta Harmônica de Alta Legibilidade**:
- `--flame`: Laranja Incandescente (`#ff5400`)
- `--ember`: Vermelho Brasa (`#ff2a00`)
- `--gold`: Ouro Fundido (`#ffb703`)
- `--eye`: Ciano Elétrico (`#00e5ff`)
- Fundo ultra-escuro com atmosfera CRT/Ember e renderizadores dedicados para diffs de código e streaming de terminal.
---
## 🚀 Como Compilar e Executar
### 1. Pré-requisitos
- Compilador C++ moderno (GCC 11+, Clang 14+, ou MSVC 2022)
- CMake 3.14+
- Node.js 18+ e npm (para os assets da Web UI)
---
### 2. Compilação do `llama-server` (Backend + Web UI Embutida)
```bash
# 1. Compilar os assets de produção da Web UI
cd tools/ui
npm install
npm run build
cd ../..
# 2. Configurar o build CMake (exemplo com suporte a CPU e Server ativo)
cmake -B build -DLLAMA_BUILD_SERVER=ON -DCMAKE_BUILD_TYPE=Release
# 3. Compilar todos os binários (ou apenas o llama-server)
cmake --build build --config Release -j$(nproc)
```
#### Aceleração por Hardware (Backends de GPU):
- **NVIDIA (CUDA)**: `cmake -B build -DGGML_CUDA=ON -DLLAMA_BUILD_SERVER=ON && cmake --build build --config Release -j$(nproc)`
- **Vulkan**: `cmake -B build -DGGML_VULKAN=ON -DLLAMA_BUILD_SERVER=ON && cmake --build build --config Release -j$(nproc)`
- **Apple Silicon (Metal)**: `cmake -B build -DGGML_METAL=ON -DLLAMA_BUILD_SERVER=ON && cmake --build build --config Release -j$(nproc)`
---
### 3. Executando o Servidor
```bash
# Iniciar o servidor HTTP com todas as tools e Web UI ativas
./build/bin/llama-server \
-m /caminho/para/seu/modelo.gguf \
--port 8080 \
--ctx-size 8192 \
-ngl 99
```
Abra seu navegador em `http://localhost:8080` para acessar a Web UI com o **Centro de Controle Agêntico**, ou utilize a API OpenAI compatível em `http://localhost:8080/v1`.
---
### 4. Executando com Speculative Decoding para Código
```bash
# Executa o modelo principal junto com o modelo rascunho (Draft Model)
./build/bin/llama-server \
-m Qwen2.5-Coder-32B-Instruct-Q4_K_M.gguf \
-md Qwen2.5-Coder-0.5B-Instruct-Q8_0.gguf \
--spec-draft-n-max 8 \
--spec-draft-p-min 0.75 \
--port 8080
```
---
## 🔌 Integração com Extensões de IDE (FIM / Code Autocomplete)
Configure seu plugin favorito (**Continue.dev**, **Cursor** ou **Tabby**) apontando para o `llama-server`:
### Exemplo de Configuração no `config.json` do Continue.dev:
```json
{
"tabAutocompleteModel": {
"title": "llama.cpp Infill",
"provider": "openai",
"model": "Qwen2.5-Coder",
"apiBase": "http://localhost:8080/v1"
}
}
```
O endpoint `/v1/completions` responderá automaticamente às requisições contendo `prompt` e `suffix` com alta velocidade.
---
## 📡 Referência Rápida de Endpoints da API
- `POST /v1/chat/completions`: Chat conversacional compatível com OpenAI, suporte a tool calling estruturado e streaming SSE.
- `POST /v1/completions`: Completions de texto e código com suporte a `suffix` (FIM).
- `POST /infill`: Infilling de código com padrão de múltiplos arquivos de repositório (`input_extra`).
- `GET /tools`: Lista de todas as ferramentas ativas e seus esquemas JSON Schema.
- `POST /tools`: Execução direta de ferramentas de backend.
- `GET /v1/models`: Lista de modelos carregados no servidor.
- `GET /props`: Parâmetros e propriedades globais do servidor.
- `GET /slots`: Monitoramento em tempo real do processamento de slots e geração de tokens.
---
## 📁 Estrutura do Repositório
```
llama.cpp_algmor24_v3/
├── common/ # Infraestrutura compartilhada (args, sampling, speculative, Jinja)
├── grammars/ # Gramáticas formais GBNF (C, JSON, aritmética)
├── src/ # Núcleo GGML/LLaMA em C++ (tensores, KV cache, samplers)
├── tools/
│ ├── server/ # Backend C++ do llama-server (HTTP, MCP proxy, FIM, /tools)
│ ├── ui/ # Frontend Web UI (SvelteKit, Vite, Agents Hub, Cyberpunk Theme)
│ ├── cli/ # Interface conversacional de terminal interativo
│ ├── quantize/ # Utilitário de quantização de modelos GGUF
│ └── llama-bench/ # Ferramenta de benchmark de processamento e geração
└── examples/ # Scripts de apoio e conversores de gramática
```
---
## 📜 Licença
Distribuído sob a licença **MIT**. Veja o arquivo [LICENSE](LICENSE) para mais detalhes.
---
ΩFFFΣLLIa • llama.cpp • AlgMor24 — Inferência Local, Descentralizada e Sem Limites