Szintaxis:
Mivel ismerjük a ChatGPT-t, tudjuk, hogy ez a platform az Open AI közösség tulajdona, és eszközöket, architektúrákat, API-kat és számos keretrendszert biztosít, amelyeket felhasználhatunk alkalmazásaink és a természetes nyelvi feldolgozási modellek telepítéséhez. Az Open AI olyan API-kat kínál, amelyeken keresztül bármilyen előre betanított AI- és NLP-modellt használhatunk az Open AI platformról, és működőképessé tehetjük azokat alkalmazásainkban, például valós idejű adatokkal kapcsolatos előrejelzéseket. Hasonlóképpen, a GPT4All azt is lehetővé teszi a felhasználók számára, hogy integrálják előre betanított AI modelljeit különböző alkalmazásokkal.
A GPT4All modell a ChatGPT-hez képest korlátozott adatokra van kiképezve. A ChatGPT-hez képest teljesítménykorlátozásai is vannak, de lehetővé teszi a felhasználó számára, hogy privát GPT-jét használja a helyi hardveren, és nincs szükség hálózati kapcsolatra. Ennek a cikknek a segítségével megismerjük, hogyan használhatjuk a GPT4All modelleket Python szkriptben, mivel a GPT4All hivatalos kötésekkel rendelkezik Pythonhoz, ami azt jelenti, hogy a GPT4All modelleket Python szkripten keresztül is tudjuk használni és integrálni.
Mindehhez egy online parancsra van szükség a GPT4All telepítéséhez a Python IDE számára. Ezután annyi mesterséges intelligencia modellt integrálhatunk, ahány alkalmazásunkat. A Pythonban a GPT4All telepítéséhez szükséges parancs a következő:
$ pip telepítése gpt4all
1. példa:
A példával való kezdéshez le kell töltenünk és telepítenünk kell a Python-t a rendszereinkre. A Python ajánlott verziói a „3.7-es verzió”, vagy azok, amelyek ezt a verziót követően jelentek meg. Egy másik módja annak, hogy Pythonnal dolgozzunk, hogy elkerüljük a „Python-beállítás” rendszereinkre történő telepítésének hosszú folyamatát, a „Google Colab” használata, amely a Python felhőalapú környezete. Ezt a környezetet bármilyen webböngészőn futtathatjuk, és létrehozhatunk mesterséges intelligencia és gépi tanulási modelleket. Az itt megvalósítandó példákat a Google Colabban hajtjuk végre.
Ez a példa bemutatja a GPT4All Pythonban történő telepítésének módszerét, valamint az előre betanított modellek használatát. Először a GPT4All telepítésével kezdjük. Ehhez a korábban említett parancs végrehajtásra kerül. A parancs végrehajtásával a GPT4All a csomagjaival és keretrendszereivel együtt letöltődik és telepítődik.
Most pedig haladunk előre. A GPT4All-ból importáljuk a „GPT4All”-t. Ez hozzáadja a projekthez a GPT4All összes előre betanított modelljét. Most bármelyik modellt felhasználhatjuk, és megvalósíthatjuk az alkalmazásunkra vonatkozó előrejelzéseket. Miután importáltuk a GPT4All csomagot, itt az ideje, hogy meghívjuk ezt a függvényt, és használjuk a GPT4All modellt, amely a „csevegés befejezésének” kimenetét adja.
Más szóval, ha bármit kérdezünk attól a modelltől a bemenetben, akkor azt visszaadja a kimenetben. Az itt használt modell a „ggml-gpt4all-j-v1.3-groovy”. Ezek a modellek már a GPT4All gyorsítótárban vannak tárolva. Ezeket a modelleket erről a linkről szerezhetjük be ' https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat ” kézi letöltéshez. Ha a modell már megtalálható a GPT4All gyorsítótárban, egyszerűen meghívjuk a modell nevét, és megadjuk a „GPT4All()” függvény bemeneti paramétereiként. Ha manuálisan sikeresen letöltöttük, átadjuk annak a mappának az elérési útját, ahol a modell található. Mivel ez a modell az üzenetek befejezésére szolgál, ennek a modellnek a szintaxisa a következő:
$ Chat_completion (üzenetek)Az üzenetek egy szótárlista, és minden szótárnak tartalmaznia kell egy „szerep” kulcsot a felhasználó, a rendszer vagy az asszisztens értékével, valamint a „kulcs” tartalommal, amelynek értéke karakterláncként szerepel. Ebben a példában a tartalmat „nevezd meg három színt”, a szerepkulcsot pedig „felhasználóként” adjuk meg.
$modell= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'user', 'content': 'Név 3 virág'}]
E specifikáció után a modellel meghívjuk a „chat_completion()” függvényt. Ennek kódja a következő kimenetben jelenik meg:
$ !pip telepítése gpt4alla gpt4all-ból importálja a GPT4All-t
modell = GPT4All('ggml-gpt4all-j-v1.3-groovy')
messages = [{'role': 'user', 'content': 'Nevezzen meg három színt'}]
model.chat_completion(üzenetek)
A példa végrehajtása után a modell három színt ad vissza válaszként a bemenetre.
2. példa:
Egy másik példával foglalkozunk, ahol egy másik módszert fedezünk fel a GPT4All használatára a Pythonban. Ez megtehető a Python hivatalos kötéseivel, amelyet a „Nomic” biztosít, amely egy nyílt forráskódú AI közösség, és a GPT4All-t futtatja. A következő paranccsal integráljuk a „nomic”-ot Python-konzolunkba:
$ pip install nomicA telepítés után importáljuk a GPT4All-t a „nomic.gpt4all” fájlból. A GPT4All importálása után inicializáljuk a GPT4All-t az „open()” függvénnyel. Ezután meghívjuk a „prompt()” függvényt, és egy promptot adunk át ennek a függvénynek. Ezután azonnali válasz jön létre azon prompt alapján, amelyet a prompt modell bemeneteként adtunk meg.
!pip install nomica nomic.gpt4all-ból importálja a GPT4All-t
# Inicializálja a GPT4All modellt
inicial = GPT4All()
inicial.open()
# Válasz generálása a prompt alapján
model_response = inici.prompt('írjon egy rövid történetet egy számítógépről)
# a generált válasz megjelenítése
print(modell_response)
A kimenet megjeleníti a modell azonnali válaszát, amelyet a Pythonban előre betanított GPT4All modell segítségével hoztunk létre. Ha többet akarunk megtudni a modellekről és arról, hogyan használhatjuk ezeket a modelleket a válaszok generálására, vagy egyszerű szavakkal, ha ismereteket akarunk szerezni a szintaxisról, amellyel ezekből a modellekből válaszokat generálhatunk, további segítséget vehetünk igénybe a GPT4Minden műszaki dokumentáció részlete.
Következtetés
A GPT4All továbbra is a teljesítmény pontosságára törekszik. A nomic AI platform üzemelteti, amelynek célja, hogy mesterségesen intelligens chatbotokat biztosítson felhasználóinak a fogyasztói szintű CPU-kon, mivel a GPT4All hálózati kapcsolat és GPU nélkül működik. Ez a cikk felvilágosít bennünket a PyGPT4All professzionális használatáról Python környezetben, valamint az alkalmazásaink és az előre betanított GPT4All AI modellek közötti interakció létrehozásáról. Ebben az útmutatóban két különböző módszert ismertettünk a GPT4All Pythonban való telepítésére.