t-tech

/

T-lite-it-1.0

like 100

Follow

T-Tech 561

https://ollama.com/blog/tool-support
qwen2 поддерживает фичу.
при попытке использовать получаю ошибку:
ollama._types.ResponseError: registry.ollama.ai/library/tbank_lite_helper:latest does not support tools (status code: 400)
в олламу загружаю с настройками:
FROM T-lite-it-1.0.Q8_0.gguf

TEMPLATE """{{ if .System }}<|begin_of_text|><|start_header_id|>system<|end_header_id|>

{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|>

{{ .Prompt }}{{ end }}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

{{ .Response }}<|eot_id|><|im_end|>"""

PARAMETER stop "<|eot_id|>"
PARAMETER stop "<|quad_end|>"
PARAMETER stop "<|image_pad|>"
PARAMETER stop "<|repo_name|>"
PARAMETER stop "<|video_pad|>"
PARAMETER stop ""
PARAMETER stop ""
PARAMETER stop "<|file_sep|>"
PARAMETER stop "<|box_start|>"
PARAMETER stop "<|box_end|>"
PARAMETER stop "<|im_start|>"
PARAMETER stop "<|quad_start|>"
PARAMETER stop "<|object_ref_start|>"
PARAMETER stop "<|object_ref_end|>"
PARAMETER stop "<|im_end|>"
PARAMETER stop "<|fim_"
PARAMETER stop "<|vision_"
PARAMETER temperature 1.5
PARAMETER min_p 0.1
SYSTEM "Ты — Помощник, который помогает клиентам, отвечай кратко и понятно."
Что я делаю не так?