lmstudio error
error loading model: error loading model hyperparameters: key not found in model: deepseek2.attention.q_lora_rank
lmstudio: 0.3.32
CUDA 12 llama.cpp (Windows): v1.58.0
q4_k_m
wait https://github.com/ggml-org/llama.cpp/releases/tag/b7127 . CUDA llama.cpp (Windows) v1.58.0 still on b7087
Всем привет!
Удалось решить проблему? или ждать выхода новой версии LMStudio?
запустилось с новой версией 1.59.0
но возникла другая проблема:
Error rendering prompt with jinja template: "Unexpected token: UnaryOperator".
This is usually an issue with the model's prompt template. If you are using a popular model, you can try to search the model under lmstudio-community, which will have fixed prompt templates. If you cannot find one, you are welcome to post this issue to our discord or issue tracker on GitHub. Alternatively, if you know how to write jinja templates, you can override the prompt template in My Models > model settings > Prompt Template.
gemini посоветовал поправить jinja-промпт для модели - у меня заработало.
Главная из них, вызывавшая ошибку UnaryOperator, была связана со срезом строки (slicing), но были и скрытые символы, которые ломали парсер.
https://gemini.google.com/share/efac9358e748
gemini посоветовал поправить jinja-промпт для модели - у меня заработало.
Главная из них, вызывавшая ошибку UnaryOperator, была связана со срезом строки (slicing), но были и скрытые символы, которые ломали парсер.
https://gemini.google.com/share/efac9358e748
Спасибо, работает!