Näin yhdistät Paikallinen Ollama Crescelo-palveluun.
Aja Llama 3.2:ta, Mistralia tai Qwenia kokonaan omalla laitteistollasi. Seuraa tätä vaiheittaista opasta ladataksesi Ollaman, määrittääksesi alkuperien väliset käyttöoikeudet ja yhdistääksesi avustajasi.
Lataa ja asenna Ollama
Lataa ilmainen Ollama-asennusohjelma käyttöjärjestelmällesi:
Ollama toimii paikallisesti macOS:llä (Apple Silicon M1/M2/M3/M4 on poikkeuksellisen nopea), Windowsilla ja Linuxilla.
Lataa haluamasi avoimen lähdekoodin malli
Avaa pääte (Terminal Macilla/Linuxilla, PowerShell tai komentokehote Windowsilla) ja suorita:
Ollama lataa Llama 3.2:n (noin 2,0 Gt) ja käynnistää paikallisen palvelimen. Voit ladata myös suurempia malleja, kuten ollama pull llama3.1:8b or ollama pull mistral.
Määritä sallitut CORS-alkuperät (ratkaiseva vaihe)
Oletuksena Ollama hyväksyy vain localhost-sovelluksista tulevat pyynnöt. Jotta Crescelon hallintapaneeli voi lähettää kehotteita paikalliselle Ollama-palvelimellesi, sinun on asetettava OLLAMA_ORIGINS -ympäristömuuttuja:
launchctl setenv OLLAMA_ORIGINS "*"OLLAMA_ORIGINS → Muuttujan arvo: * → Napsauta OK → Käynnistä Ollama uudelleen.sudo systemctl edit ollama.serviceEnvironment="OLLAMA_ORIGINS=*", tallenna ja suorita sudo systemctl restart ollama.Yhdistä Crescelo-palveluun
- Avaa Crescelon hallintapaneeli, siirry kohtaan Asetukset → Tekoälyasetukset.
- Valitse Paikallinen palvelin (Ollama).
- Varmista, että isännän URL-osoite on
http://localhost:11434(tai oman palvelimesi IP-osoite). - Kentässä Mallin nimi -kenttään modellitunniste, jonka latasit (esim.
llama3.2). - Napsauta Tallenna tekoälyasetukset.