it:ai:llama

Rozdíly

Zde můžete vidět rozdíly mezi vybranou verzí a aktuální verzí dané stránky.

Odkaz na výstup diff

Následující verze
Předchozí verze
it:ai:llama [2023/07/29 17:35] – vytvořeno Petr Nosekit:ai:llama [2024/03/31 07:22] (aktuální) Petr Nosek
Řádek 2: Řádek 2:
  
 {{youtube>VYHwRs_RQLU?}} {{youtube>VYHwRs_RQLU?}}
 +
 +
 +===== Lama v malině aneb Provozujeme vlastního AI Chatbota na RaspberryPi =====
 +
 +Hodně vysvětlující přednáška: 
 +
 +{{youtube>owISFhYKByQ?}}
 +
 +Projekt Llama je dostupný na [[https://github.com/ggerganov/llama.cpp|Githubu]]. Lze si ho zkompilovat na Raspberry. Lama.cpp je runtime a musíme si najít model, který budeme používat. 
 +
 +AI modely lze najít na [[https://huggingface.co/|Huggingface.co]] - je to něco jako Github pro strojové učení. Je to místo, kde stáhnu předtrénovaný model své volby. Jsou tam desítky tisíc modelů. 
 +
 +
 +===== ollama =====
 +
 +{{youtube>g9_0m7RBrfs?}}
 +
 +Instaluje se z tohoto zdroje: https://ollama.com/
 +
 +Na RPI dává smysl vyzkoušet model [[https://ollama.com/library/tinyllama|tinyllama]].
 +
  • it/ai/llama.1690652119.txt.gz
  • Poslední úprava: 2023/07/29 17:35
  • autor: Petr Nosek