old lm models (unrecommend)
Collection
汎用モデルとしてllm作成は学習、推論の面でも非効率なので以降の開発を中止し、その他古いモデルはWariHima/hourai2_3_archived_models に移しました。今後はタスクごとに設計する方針です。 • 6 items • Updated
How to use WariHima/hourai2_3_archived_models with llama.cpp:
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf WariHima/hourai2_3_archived_models:Q4_K_M # Run inference directly in the terminal: llama cli -hf WariHima/hourai2_3_archived_models:Q4_K_M
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf WariHima/hourai2_3_archived_models:Q4_K_M # Run inference directly in the terminal: llama cli -hf WariHima/hourai2_3_archived_models:Q4_K_M
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf WariHima/hourai2_3_archived_models:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf WariHima/hourai2_3_archived_models:Q4_K_M
docker model run hf.co/WariHima/hourai2_3_archived_models:Q4_K_M
How to use WariHima/hourai2_3_archived_models with Ollama:
ollama run hf.co/WariHima/hourai2_3_archived_models:Q4_K_M
How to use WariHima/hourai2_3_archived_models with Docker Model Runner:
docker model run hf.co/WariHima/hourai2_3_archived_models:Q4_K_M
How to use WariHima/hourai2_3_archived_models with Lemonade:
# Download Lemonade from https://lemonade-server.ai/ lemonade pull WariHima/hourai2_3_archived_models:Q4_K_M
lemonade run user.hourai2_3_archived_models-Q4_K_M
lemonade list
YAML Metadata Warning:empty or missing yaml metadata in repo card
Check out the documentation for more information.
使用しなかったモデル群および現在使用していないモデルのまとめ。
rwkvでのembeddingモデル群(20~60k)が完全上位性能となったため。 phone level sentence encoderのも同様
hourai2-10m-64dim-embedding
hourai2-10m-embedding
hourai2-10m-embedding-gguf
hourai2-50m-base
hourai2-50m-embedding
hourai2-50m-embedding-gguf
hourai2-pl-2m-32dim
hourai2-pl-2m-32dim-gguf
hourai2-pl-5m
hourai3-7m-base-ja
hourai3-7m-embedding-ja
hourai3-7m-embedding-ja-gguf
moderbert wmm 10mの作成とその派生モデルにより下位性能になったため。
hourai3-ja-sentiment-binary-90m-v1
hourai3-ja-subjectivity-90m-v1
hourai3-ja-toxicity-90m-v1
hourai3-ner-ja-90m-v1
moderbert wmm 10m yomikata(同型異音語判定機)の作成により、 わざわざ文章単位で漢字=>読み変換をしなくても、既存の形態素解析器などの読み推定を直せるようになったため。
同音異義語変換器の作成により、 わざわざ文章単位でかな漢字変換をしなくてもよくなったため。 読みの被らない新規語はnlp的に追加すればいいため、わざわざ未知語用にllmを使うのも大変なのでやめた。
階層下に記載