Lokálne LLM
AIlocalllmai
Nástroje na lokálne spustenie LLM — od inštalácie jediným príkazom až po plnohodnotné offline chatovacie aplikácie.
| Projekt | Popis | URL |
|---|---|---|
| Ollama | Spustite Llama, Mistral, Gemma a 50+ modelov lokálne. Inštalácia jediným príkazom. | https://github.com/ollama/ollama |
| LM Studio | Desktopová aplikácia, ktorá stiahne a spustí ľubovoľný otvorený model bez kódu. | https://lmstudio.ai |
| Jan | Open-source alternatíva ChatGPT, ktorá beží 100 % offline. | https://github.com/menloresearch/jan |
| GPT4All | Vhodné pre začiatočníkov: stiahnite, vyberte model a začnite chatovať. | https://github.com/nomic-ai/gpt4all |
| AnythingLLM | Premení vašu lokálnu AI na znalostnú databázu nad vašimi vlastnými dokumentmi. | https://github.com/Mintplex-Labs/anything-llm |
| LocalAI | Náhrada OpenAI API, ktorá smeruje na váš vlastný počítač. | https://github.com/mudler/LocalAI |
| Msty | Desktopová AI aplikácia s dôrazom na súkromie, s viacmodelovým chatom a dokumentmi. | https://msty.app |
| Open WebUI | Webové rozhranie v štýle ChatGPT pre Ollama, plne offline. | https://github.com/open-webui/open-webui |
| llamafile | Jediný spustiteľný súbor, ktorý spustí kompletný AI model. | https://github.com/Mozilla-Ocho/llamafile |