Lokální LLM
AIlocalllmai
Nástroje pro lokální spuštění LLM — od instalace jediným příkazem až po plnohodnotné offline chatovací aplikace.
| Projekt | Popis | URL |
|---|---|---|
| Ollama | Spusťte Llama, Mistral, Gemma a 50+ modelů lokálně. Instalace jediným příkazem. | https://github.com/ollama/ollama |
| LM Studio | Desktopová aplikace, která stáhne a spustí libovolný otevřený model bez kódu. | https://lmstudio.ai |
| Jan | Open-source alternativa ChatGPT, která běží 100 % offline. | https://github.com/menloresearch/jan |
| GPT4All | Vhodné pro začátečníky: stáhněte, vyberte model a začněte chatovat. | https://github.com/nomic-ai/gpt4all |
| AnythingLLM | Promění vaši lokální AI ve znalostní databázi nad vašimi vlastními dokumenty. | https://github.com/Mintplex-Labs/anything-llm |
| LocalAI | Náhrada OpenAI API, která míří na váš vlastní počítač. | https://github.com/mudler/LocalAI |
| Msty | Desktopová AI aplikace s důrazem na soukromí, s vícemodelovým chatem a dokumenty. | https://msty.app |
| Open WebUI | Webové rozhraní ve stylu ChatGPT pro Ollama, plně offline. | https://github.com/open-webui/open-webui |
| llamafile | Jediný spustitelný soubor, který spustí kompletní AI model. | https://github.com/Mozilla-Ocho/llamafile |