Llama

Hodně vysvětlující přednáška:

Projekt Llama je dostupný na Githubu. Lze si ho zkompilovat na Raspberry. Lama.cpp je runtime a musíme si najít model, který budeme používat.

AI modely lze najít na Huggingface.co - je to něco jako Github pro strojové učení. Je to místo, kde stáhnu předtrénovaný model své volby. Jsou tam desítky tisíc modelů.

Instaluje se z tohoto zdroje: https://ollama.com/

Na RPI dává smysl vyzkoušet model tinyllama.