Hodně vysvětlující přednáška:
Projekt Llama je dostupný na Githubu. Lze si ho zkompilovat na Raspberry. Lama.cpp je runtime a musíme si najít model, který budeme používat.
AI modely lze najít na Huggingface.co - je to něco jako Github pro strojové učení. Je to místo, kde stáhnu předtrénovaný model své volby. Jsou tam desítky tisíc modelů.
Instaluje se z tohoto zdroje: https://ollama.com/
Na RPI dává smysl vyzkoušet model tinyllama.