====== Llama ======

{{youtube>VYHwRs_RQLU?}}


===== Lama v malině aneb Provozujeme vlastního AI Chatbota na RaspberryPi =====

Hodně vysvětlující přednáška: 

{{youtube>owISFhYKByQ?}}

Projekt Llama je dostupný na [[https://github.com/ggerganov/llama.cpp|Githubu]]. Lze si ho zkompilovat na Raspberry. Lama.cpp je runtime a musíme si najít model, který budeme používat. 

AI modely lze najít na [[https://huggingface.co/|Huggingface.co]] - je to něco jako Github pro strojové učení. Je to místo, kde stáhnu předtrénovaný model své volby. Jsou tam desítky tisíc modelů. 


===== ollama =====

{{youtube>g9_0m7RBrfs?}}

Instaluje se z tohoto zdroje: https://ollama.com/

Na RPI dává smysl vyzkoušet model [[https://ollama.com/library/tinyllama|tinyllama]].


==== Přednášky z OpenAlt 2025 ====

Přednášky a odkazy z OpenAlt 2025 na rozjetí AI lokálně:

  * https://www.youtube.com/playlist?list=PLOEQDQruWfhwEmYy7BajapPd6Qj3X0UC7
  * https://www.openalt.cz/2025/program/
  * https://talks.openalt.cz/openalt-2025/talk/NLRQDF/
  * https://github.com/dolmoch/local-ai-workshop/blob/master/dialogue.sh
  * https://talks.openalt.cz/openalt-2025/talk/K8X3AA/
  * https://github.com/ollama/ollama