Model Card For llm-jp-3-3.7b-instruct-gguf

LLM-jpさんのllm-jp-3-3.7b-instructを量子化したものたちです。 お好きな方法で使ってください。

使い方

  • llama.cpp
  • LM Studio (Win,Mac)
  • LLMFarm (iOS)
    • テンプレート
### 指示:
{{prompt}}

### 応答:
  • etc

作り方

npakaさんのLLM-jp-3 を gguf に変換する手順

Downloads last month
665
GGUF
Model size
3.78B params
Architecture
llama

4-bit

8-bit

Inference API
Unable to determine this model's library. Check the docs .

Model tree for alfredplpl/llm-jp-3-3.7b-instruct-gguf

Quantized
(1)
this model

Dataset used to train alfredplpl/llm-jp-3-3.7b-instruct-gguf