Tekoälypalvelut kehittyvät nykyisin huimaa vauhtia, päivittäin tulee yhä enemmän web-palveluja tarjolle. Näissä muiden tarjoamissa palveluissa on kuitenkin usein muutamia ongelmia. Esimerkiksi alkuvaiheessa ne saattavat tarjota koekäyttöä ilmaiseksi ja myöhemmin alkavat veloittamaan palvelun käytöstä. Tai voitko olla varma, että ulkopuolisiin palveluihin syöttämäsi tiedot eivät vuoda ulkopuolisille? Tai ettei syöttämiäsi tietoja joskus tulevaisuudessa käytetä hyväksi uusien tekoälypalveluiden kehittämiseksi.
Näihin kysymyksiin on olemassa yksi ratkaisu; Oman henkilökohtaisen tekoälyn rakentaminen omaa käyttöä varten.
Tämä on myös täysin mahdollista, on olemassa ilmaisia ja avoimia tekoälymalleja joiden avulla kuka vain voi tehdä nykyisin omia palveluita ja tarjota näitä myös muille kiinnostuneille.
Lähdetään rohkeasti kokeilemaan mitä oman tekoälyn rakentaminen tarkoittaa. Tietysti ensin täytyy olla joku PC-tietokone, jossa on riittävästi suorituskykyä. Tekoälyn pyörittäminen vaatii aika paljon prosessoritehoa ja muistia. Tehokkaita näytönohjaimia käytetään rinnakkaislaskennan nopeuttamiseen, näillä luodaan ja ajetaan nykyisin tekoälymalleja.
Ilmaisia ja avoimia malleja ovat esimerkiksi; “llama”, “mistral” ja “gemma”.
Ollama on avoin ohjelmistorajapinta, jonka avulla voi helposti ajaa omalla PC:llä tekoälymalleja.
OpenWeb UI on avoin käyttöliittymä, omalle web-selain pohjaiselle tekoälypalvelulle.
Näiden avulla on aika helppoa rakentaa oma “ChatGPT” tekoälypalvelu, jonne syötetyt tiedot eivät varmasti karkaa omaa PC-tietokonetta kauemmas.
On myös mahdollista antaa “oman tekoälyn pureskeltavaksi” omia tiedostoja, esim. ruokareseptejä tai koulumuistiinpanoja. Sitten voi keskustella tekoälyn kanssa näistä omista tiedoista ja muistiinpanoista. Esittää kysymyksiä ja etsiä ratkaisuja. Rakentaa pikkuhiljaa omaa henkilökohtaista avustajaa, joka on aina valmiina auttamaan, eikä ikinä väsy vastaamaan kysymyksiin.
Tämän kaltaisen tekoäly assistentin rakentamisessa on tietysti paljon työtä, eikä se mahdu yhteen lyheen blogipostaukseen. Palataan tähän tulevaisuudessa ja rakennetaan palvelua pala palalta yhdessä eteenpäin.
Asennuskomennot Linux koneeseen, esim. Ubuntu, Nvidian ohjaimella:
#OLAMAN ASENNUS:
sudo curl -fsSL https://ollama.com/install.sh | sh
#Tekoälymallin "llama2" asennetaan olama ympäristöön:
sudo ollama pull llama2
# Dockerin GPG avaimen ja dockerin asennus:
sudo apt-get update
sudo apt-get install ca-certificates curl
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc
echo \
"deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
$(. /etc/os-release && echo "$VERSION_CODENAME") stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt-get update
sudo apt-get install docker-ce docker-ce-cli
sudo apt-get install containerd.io docker-buildx-plugin
sudo apt-get install docker-compose-plugin
Tämän jälkeen,
DOCKERIN AVULLA HAETETAAN open-webui JA KÄYNNISTETÄÄN SE:
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Sen jälkeen avataan selaimella open-webui selainkäyttöliittymä. Luodaan uusi käyttäjä ja annetaan salasana.
Tässä muutamia eteenpäin auttavia videoita, kyseiseen aiheeseen:
