Kako koristiti AI za osobne potrebe? - Pametni privatni chatbot

Jedan od najvećih potencijalnih problema pri korištenju rješenja kao što je ChatGPT jest činjenica da se mora biti vrlo oprezan prilikom korištenja povjerljivih informacija i dokumenata. Osim toga, mnogi bi nerijetko htjeli imati veliki jezični model na raspolaganju koji je treniran na specifičnom setu dokumenata. Srećom, takvo što uopće nije složeno napraviti, a sve što je potrebno su rješenja kao što je privateGPT, malo poznavanja Pythona te podešavanje okoline unutar koje se jezični modeli mogu iskoristiti. Nećemo ulaziti previše u tehničke detalje niti objašnjavati kako privateGPT točno funkcionira, jer je sve objašnjeno u dokumentaciji samog projekta. Stoga, evo i jednostavnih uputa kako napraviti lokalni chatbot koji omogućuje razgovaranje o vlastitim dokumentima…

Matija Gračanin petak, 30. lipnja 2023. u 05:00

Prvi je korak, ako to već nije učinjeno, instalirati Python. Sama instalacija nije nimalo složena, a sve što je potrebno jest sa službene stranice preuzeti instalacijski paket (najbolje je preuzeti zadnju dostupnu inačicu, a to je u trenutku pisanja ovoga teksta 3.11.4), a onda taj paket pokrenuti, baš kao i svaku drugu instalaciju. U suštini nije potrebno mijenjati parametre pri instalaciji, no uputno je kvačicom označiti opciju Add python.exe to PATH, i zatim jednostavno kliknuti na gumb Install Now, te još dati odgovarajuća prava. Jednom kada instalacija završi, korištenje Pythona je spremno te je najbolje sve isprobati tako da se pokrene naredbeni redak, i u njega utipka python, te sve potvrdi tipkom Enter. Ako je sve u redu, pojavit će se Pythonov naredbeni redak. S obzirom na to da ćemo koristiti privateGPT, nije potrebno instalirati razvojno okuženje (primjerice, Visual Studio Code), ali za kasnije korištenje to svakako preporučujemo. Nakon toga, ostaje instalirati Git sa službenog weba, i to tako da se preuzme odgovarajući paket sa službene web-stranice (https://git-scm.com/download/win).

Članak dostupan pretplatnicima

Kako bi mogao pročitati cijeli članak, moraš biti prijavljen na Bug.hr sa svojim podacima te imati status pretplatnika.

Bug 368-369 srpanj/kolovoz 2023.

AI alati i praktična primjena generativne umjetne inteligencije