Llama 3 je najnovším veľkým jazykovým modelom Meta. Môžete ho použiť na rôzne účely, ako je napríklad riešenie vašich otázok, získanie pomoci so školskými domácimi úlohami a projektmi atď. Lokálne nasadenie Llama 3 na vašom počítači so systémom Windows 11 vám pomôže používať ho kedykoľvek aj bez prístupu na internet. Tento článok vám to ukáže ako nainštalovať Llama 3 na Windows 11 PC .
Ako nainštalovať Llama 3 na Windows 11 PC
Inštalácia Llama 3 na Windows 11 PC cez Python vyžaduje technické zručnosti a znalosti. Niektoré alternatívne metódy vám však umožňujú lokálne nasadiť Llama 3 na vašom počítači so systémom Windows 11. Ukážem vám tieto metódy.
Ak chcete nainštalovať Llama 3 do počítača so systémom Windows 11, musíte vykonať niektoré príkazy v príkazovom riadku. To vám však umožní používať iba jeho verziu príkazového riadku. Ak chcete používať jeho webové používateľské rozhranie, musíte podniknúť ďalšie kroky. Ukážem vám obe tieto metódy.
Nasaďte Llama 3 na Windows 11 PC cez CMD
Ak chcete nasadiť Llamu 3 na počítači so systémom Windows 11, musíte si nainštalovať Ollama na počítači so systémom Windows. Kroky pre to isté sú nasledovné:
- Navštívte Oficiálna webová stránka Ollamy .
- Kliknite na Stiahnuť a potom vyberte Windows .
- Teraz kliknite na Stiahnite si pre Windows tlačidlo na uloženie súboru exe do počítača.
- Spustite súbor exe a nainštalujte Ollama na váš počítač.
Po nainštalovaní Ollama do vášho zariadenia reštartujte počítač. Mal by bežať na pozadí. Môžete to vidieť na systémovej lište. Teraz kliknite na možnosť Modely na webovej stránke Ollama. Uvidíte jeho rôzne modely.
Llama 3.1 je k dispozícii v nasledujúcich troch parametroch:
- 8B
- 70B
- 405B
Posledný parameter je najväčší a samozrejme ho nemožno spustiť na nízkom počítači. Llama 3.2 má nasledujúce dva parametre:
Apowersoft porušuje prevodník
- 1B
- 3B
Kliknite na verziu Llama, ktorú chcete nainštalovať do počítača. Napríklad, ak chcete nainštalovať Llama 3.2, kliknite na Llama 3.2. V rozbaľovacej ponuke môžete vybrať parameter, ktorý chcete nainštalovať. Potom skopírujte príkaz vedľa neho a vložte ho do príkazového riadka.
Pre vaše pohodlie som napísal oba príkazy pre model Llama 3.2. Ak chcete nainštalovať model Llama 3.2 3B, spustite nasledujúci príkaz:
ollama run llama3.2:3b
Ak chcete nainštalovať model Llama 3.2 1B, použite nasledujúci príkaz:
ollama run llama3.2:1b
Otvorte príkazový riadok, zadajte ktorýkoľvek z vyššie uvedených príkazov (podľa vašich požiadaviek) a stlačte Zadajte . Stiahnutie požadovaných súborov bude chvíľu trvať. Čas sťahovania bude závisieť aj od rýchlosti vášho internetového pripojenia. Po dokončení uvidíte úspech správu v príkazovom riadku.
Teraz zadajte svoju správu, aby ste použili model Llama 3.2. Ak chcete nainštalovať model Llama 3.1, použite príkazy dostupné na webovej stránke Ollama.
Pri ďalšom spustení príkazového riadka použite rovnaký príkaz na spustenie Llama 3.1 alebo 3.2 na vašom PC.
Inštalácia Llama 3 cez CMD má jednu nevýhodu. Neukladá vašu históriu chatu. Ak ho však nasadíte na lokálny hostiteľ, vaša história chatu sa uloží a získate lepšie používateľské rozhranie. Nasledujúci spôsob ukazuje, ako to urobiť.
Nasaďte webové používateľské rozhranie Llama 3 v systéme Windows 11
Používanie Llama 3 vo webovom prehliadači poskytuje lepšie používateľské rozhranie a tiež ukladá históriu chatu v porovnaní s jej používaním v okne CMD. Ukážem vám, ako nasadiť Llamu 3 vo vašom webovom prehliadači.
Ak chcete používať Llama 3 vo svojom webovom prehliadači, vo vašom systéme by mala byť nainštalovaná Llama 3 cez Ollama a Docker. Ak ste ešte nenainštalovali Llamu 3, nainštalujte ju pomocou Ollama (ako je vysvetlené vyššie). Teraz si stiahnite a nainštalujte Docker z jeho oficiálna stránka .
Po nainštalovaní Dockera ho spustite a prihláste sa na vytvorenie účtu. Docker sa nespustí, kým sa nezaregistrujete. Po registrácii sa prihláste do svojho účtu v aplikácii Docker. Minimalizujte Docker na systémovú lištu. Aplikácie Docker a Ollama by mali bežať na pozadí. V opačnom prípade nemôžete Llama 3 používať vo svojom webovom prehliadači.
Teraz otvorte príkazový riadok, skopírujte nasledujúci príkaz a vložte ho do príkazového riadka:
aký kľúč obnovuje webovú stránku
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Vyššie uvedený príkaz bude chvíľu trvať, kým stiahne požadované zdroje. Majte preto trochu trpezlivosti. Po dokončení príkazu otvorte Docker a vyberte Kontajnery časť z ľavej strany. Uvidíte, že kontajner sa vytvorí automaticky s portom 3000:8080.
Kliknite na port 3000:8080. Tým sa otvorí nová karta vo vašom predvolenom webovom prehliadači. Teraz sa zaregistrujte a prihláste sa, aby ste mohli používať Llama 3 vo svojom webovom prehliadači. Ak uvidíte panel s adresou, uvidíte localhost: 3000 tam, čo znamená, že Llama 3 je hosťovaná lokálne na vašom počítači. Môžete ho používať bez internetového pripojenia.
V rozbaľovacej ponuke vyberte model chatu Llama. Ak chcete pridať ďalšie chatovacie modely Llama 3, musíte si ho nainštalovať cez Ollama pomocou požadovaných príkazov. Potom bude model automaticky dostupný vo vašom webovom prehliadači.
Celá vaša história rozhovorov bude uložená a prístupná na ľavej strane. Keď chcete ukončiť reláciu, odhláste sa vo webovom prehliadači. Potom otvorte aplikáciu Docker a kliknite na Stop tlačidlo na zastavenie Dockera. Teraz môžete Docker zatvoriť.
Keď budete chcieť nabudúce použiť Llama 3 vo svojom webovom prehliadači, spustite Ollama a Docker, počkajte niekoľko minút a potom kliknite na port v kontajneri Docker, aby ste vo webovom prehliadači otvorili server localhost. Teraz sa prihláste do svojho účtu a začnite používať Llama 3.
Dúfam, že to pomôže.
Môže Llama 3 bežať na Windows?
V závislosti od hardvérovej konfigurácie vášho počítača môžete na svojom systéme spustiť Llama 3. Jeho 1B model je najľahší. Môžete ho nainštalovať a spustiť vo svojom systéme prostredníctvom príkazového riadka.
Koľko RAM potrebujem pre Llama 3?
Najľahší model Llama 3 je Llama 3.2 1B. Váš systém by mal mať 16 GB RAM na spustenie modelu Llama 3.2 1B. Okrem toho by váš systém mal mať aj výkonný GPU. Vyššie modely Llama 3 vyžadujú viac systémových prostriedkov.
Čítajte ďalej : Ako používať Leonardo Phoenix AI .
