Brunobkr/OFFELLIA_Kernel_llama-server

ΩFFΣLLIα Kernel

Text/Code Edition — proxy, login e UI unificada sobre o llama-server, 100% local e sem telemetria.

---

https://zenodo.org/records/20499304

📖 Visão geral

O ΩFFΣLLIα Kernel é uma camada única em Python (FastAPI) que serve uma interface web/mobile completa para conversar com modelos de linguagem servidos por um llama-server local. Tudo roda na sua máquina: nenhuma requisição externa, nenhum ping de telemetria e nenhum dado saindo do seu ambiente.

O foco é texto e código: chat com streaming, renderização de Markdown, LaTeX e highlight de código, métricas de inferência em tempo real, memória de conversas, personas customizáveis e um subsistema agêntico com um agente autônomo real executando em segundo plano.

---

✨ Recursos principais

Recurso	Descrição
Chat / Código	Streaming via llama-server externo (porta :8080 por padrão).
Upload .txt / .pdf	Extração de texto e injeção no contexto (suporte a janela de contexto alta).
Renderização rica	Markdown + KaTeX (LaTeX) + emojis + syntax highlight de código.
Métricas em tempo real	Contexto usado da janela, tokens/s ao vivo, total de tokens e tempo por resposta.
Memória de conversas	Persistência local em JSON, com sidebar para visualizar e excluir.
Personas	Criação/edição com persistência local, injetadas como system prompt (sem limite de caracteres).
Agêntica	Um único agente real, em segundo plano, com memória própria persistente e relatórios por ação.
Segurança	Login com sessão assinada, rate-limit, TLS autoassinado, headers de segurança.
Privacidade	Zero telemetria, zero conexão externa.

---

🤖 Subsistema Agêntico

O Kernel inclui um único agente real (nunca mais de um) que opera de forma autônoma:

• Execução em segundo plano em ciclos com intervalo configurável.
• Memória própria persistente e em tempo real (agent/memory/memory.json).
• Relatórios por ciclo gravados em pasta dedicada (agent/reports/).
• Ações reais configuráveis:
  • shell — execução de comandos de shell
  • python — execução de código Python
  • http — requisições HTTP de saída
  • file_write — escrita de arquivos restrita ao workspace
  • llm — raciocínio via llama-server
• Permissão root opcional via senha mantida apenas em memória (nunca gravada em disco).
• Controle total: criar, configurar, ativar/desativar, rodar agora, excluir e recriar.
• Autonomia ajustável: supervisionado ou autônomo, com limite de passos por ciclo.

O agente raciocina respondendo estritamente em JSON e executa apenas as ações habilitadas, registrando cada passo na memória e nos relatórios.

---

📦 Requisitos

pip install "fastapi[standard]" uvicorn httpx itsdangerous "passlib[argon2]" \
            cryptography pypdf

Você também precisa de um llama-server (do llama.cpp) rodando localmente — por padrão em http://127.0.0.1:8080.

Assets offline (opcional)

Para uso 100% offline, coloque em offsellia_data/static/:

marked.min.js, katex.min.js, katex.min.css, auto-render.min.js,
highlight.min.js, github-dark.min.css   (+ pasta de fonts do KaTeX)

Há fallback por CDN comentado no código, caso prefira carregar os assets remotamente.

---

🚀 Como usar

1. Inicie seu llama-server (exemplo):

llama-server -m seu-modelo.gguf -c 32768 --port 8080

2. Inicie o Kernel:

python ΩFFΣLLIα_Kernel.py

3. No primeiro boot, defina a senha de acesso (ou exporte via OFFSELLIA_PASS).

4. Acesse https://<seu-ip-local>:5000 e faça login.

Por usar TLS autoassinado, o navegador exibirá um aviso de certificado na primeira visita — aceite para prosseguir em rede local.

---

⚙️ Configuração

A configuração fica em offsellia_data/kernel.json, criada automaticamente no primeiro boot:

Campo	Padrão	Descrição
port	5000	Porta do Kernel.
bind	0.0.0.0	Interface de bind.
use_tls	true	Ativa TLS autoassinado.
n_ctx	32768	Janela de contexto reportada na UI (alinhe ao seu llama-server).
upstreams.llm	http://127.0.0.1:8080	Endereço do llama-server.

Variável de ambiente opcional: OFFSELLIA_PASS para definir a senha sem prompt interativo.

---

🗂️ Estrutura de dados

offsellia_data/
├── kernel.json            # configuração do Kernel
├── tls_cert.pem           # certificado TLS autoassinado
├── tls_key.pem            # chave TLS
├── static/                # assets offline (opcional)
├── chats/                 # conversas persistidas (JSON)
├── personas/              # personas persistidas (JSON)
└── agent/
    ├── agent.json         # configuração do agente
    ├── memory/memory.json # memória persistente do agente
    ├── reports/           # relatórios por ciclo
    └── workspace/         # área de trabalho do agente

---

🔌 Endpoints principais

Método	Rota	Função
GET	/	Interface web/mobile.
POST	/login	Autenticação.
POST	/api/extract	Extração de texto de .txt / .pdf.
GET/POST/DELETE	/api/chats[/{id}]	CRUD de conversas.
GET/POST/DELETE	/api/personas[/{id}]	CRUD de personas.
GET/POST/DELETE	/api/agent	CRUD do agente único.
POST	/api/agent/enable	Ativa/desativa o agente.
POST	/api/agent/run	Dispara um ciclo imediato.
POST	/api/agent/root	Arma/desarma senha root (em memória).
GET/DELETE	/api/agent/memory	Lê/limpa a memória do agente.
GET	/api/agent/reports[/{id}]	Lista/abre relatórios.
*	/v1/*, /tokenize, …	Proxy transparente para o llama-server.

---

🔒 Segurança e privacidade

• Sessões assinadas com itsdangerous e cookies HttpOnly / SameSite.
• Senha de acesso protegida com Argon2.
• Rate-limit no login (8 tentativas / 5 min por IP).
• Headers de segurança: X-Content-Type-Options, X-Frame-Options, Referrer-Policy.
• TLS autoassinado gerado automaticamente.
• Senha root do agente nunca é gravada em disco — vive apenas em memória durante a sessão do processo.
• Zero telemetria e nenhuma chamada de rede além do seu llama-server local.

---

⚠️ Aviso

O subsistema agêntico pode executar ações reais no sistema (shell, Python, escrita de arquivos e, opcionalmente, comandos com privilégios root). Habilite cada ação de forma consciente, mantenha o agente em modo supervisionado quando possível e use o workspace dedicado. A responsabilidade pelo uso é inteiramente sua.

---

📜 Licença

Defina aqui a licença do projeto (ex.: MIT, Apache-2.0, etc.).