KoboldCpp
KoboldCpp — это оптимизированный веб-интерфейс и бэкенд для запуска больших языковых моделей (LLM) локально на вашем компьютере. Это форк популярного проекта KoboldAI, специально адаптированный для C++.
По тегу «KoboldCpp» найдено:
Ещё ничего не написано на эту тему :(