What is PrivateGPT and How to Install It

Private GPT, kendi lokalinizde, internet bağlantısına ihtiyaç duymadan ve kendi dokümanlarınızla besleyebileceğiniz bir yapay zeka chat robotudur. Private GPT kendi bilgisayarınızın kaynaklarını kullanarak LLM ile beslediğiniz dokümanlardan öğrenir ve yine sisteminizin kaynaklarını kullanarak herhangi bir şekilde internet bağlantısına ihtiyaç duymadan dokümanlarınız hakkındaki soruları yanıtlayabilir.

Şimdi Private GPT'nin kurulumuna geçelim.

Gereksinimler; ->PrivateGPT Source Code(https://github.com/imartinez/privateGPT) ->Poetry ->Conda ->Python 3.11

1-> PrivateGPT'nin kaynak kodunu indirelim.

git clone https://github.com/imartinez/privateGPT.git

2-> Ardından conda'yı kullanmak için Anaconda'yı ilgili linkten indirip kuralım. Kurulumu biraz uzun sürebilir. Kurulumun ardından bilgisayara restart atınız. (https://www.anaconda.com/download)

Ardından ise Anaconda Promt'u bulup açalım.

Conda, python enviroment'imizi isole etmeye yardım eder. Aağıdaki komutu çalıştıralım.

conda create -n privatgpt=3.11

Enviroment'i aktive etmek için ise aşağıdaki komut ile devam edelim.

conda activate privategpt=3.11

3-> Poetry kurarak PrivateGPT kurulumumuza devam edelim.

pip install poetry

4-> En son visual studio IDE'sini yükleyelim. (https://visualstudio.microsoft.com/vs/community/)

5-> UI ve Local versiyonu yüklemek için ilgili komutu kullanıyoruz.

poetry install --with ui,local

6-> Setup dosyası ile kuruluma başlayalım. Bu aşamada gerekli olan dosyaları indirecektir. Bunlardan önemli kısım ise dil modelini de indiriyor olmasıdır.

poetry run python scripts/setup

7-> Şimdi ise PrivateGPT'yi çalıştıralım.

poetry run python -m private_gpt

Bir süre beklememizin ardından http://127.0.0.1:8001 adresine gittiğimizde PrivateGPT'nin çalıştığını görüyoruz.

Upload File(s) diyerek dokümanları upload ediyoruz. Bu noktada Private GPT verdiğimiz dokümanı işliyor, yani embedding modelini kullanarak onu bir vektör veritabanına dönüştürüyor. Bu işlemin süresi ve sorumuzun cevaplanma süresi sistemimizin kaynakları ile doğru orantılıdır.

Sağladığımız dökümanın process edilmesinin ardından sorumuzu sorabiliriz.

Resources

->https://docs.privategpt.dev/installation ->https://www.youtube.com/watch?v=XFiof0V3nhA

Last updated