Vikhrmodels

/

Vikhr-2-VL-2b-Instruct-experimental

like 15

Follow

Vikhr models 241

Возможно ли использовать модель с Ollama ? Пытался ставить конвертированные gguf версии этой модели (средствами HF), но на выходе одни галлюцинации. Есть ли возможно, проясните этот вопрос. Может изображение каким-то особым образом необходимо прикреплять? Или есть гайд по установке сейфтензеров для самых маленьких?
Далек от темы ML, инструмент требуется только для обработки потока камер в HA. llava работает хорошо, но требует дополнительного перевода вывода на родной язык.

C:\Users\xxx>ollama show hf.co/mradermacher/Vikhr-2-VL-2b-Instruct-experimental-GGUF:Q8_0
  Model
    architecture        qwen2vl
    parameters          1.5B
    context length      32768
    embedding length    1536
    quantization        unknown

  Parameters
    stop    "<|im_start|>"
    stop    "<|im_end|>"
    stop    "<|im_start|>"
    stop    "<|im_end|>"
    stop    "<|im_start|>"
    stop    "<|im_end|>"
    stop    "<|im_start|>user"