Hogyan használjuk a Maximális határrelevancia (MMR) szerinti kijelölést a LangChainben?

Hogyan Hasznaljuk A Maximalis Hatarrelevancia Mmr Szerinti Kijelolest A Langchainben



A LangChain egy olyan modul, amely nyelvi modellek felépítésére használható az emberekkel való természetes nyelveken való interakcióhoz. Az emberek szöveges formában adják meg a promptot, a modell pedig egy példaválasztót használ a kimenet kinyerésére a lekérdezés segítségével. A példaválasztók a kimenet lekérésére szolgálnak a bemenet alapján a lekérdezéshez vagy prompthoz legközelebbi releváns példa kiválasztásával.

Ez az útmutató bemutatja a Select by Maximal Marginal Relevance példaválasztó használatának folyamatát a LangChainben.

Hogyan használjuk a Maximális határrelevancia (MMR) szerinti kijelölést a LangChainben?

A Maximális határrelevancia példaválasztó az információk kinyerésére szolgál a prompt és a példa koszinusz hasonlósága alapján. A koszinusz hasonlóságot az adatok beágyazási módszereinek alkalmazása és a szöveg numerikus formába konvertálása után számítjuk ki.







Az MMR példaválasztó használatának folyamatának megismeréséhez a LangChainben egyszerűen hajtsa végre a felsorolt ​​lépéseket:



1. lépés: Modulok telepítése



Indítsa el a folyamatot a LangChain függőségeinek telepítésével a pip paranccsal:





pip install langchain

Telepítse az OpenAI modult, hogy a környezetét az OpenAIEMbedding() metódus alkalmazására használja:



pip install openai

Telepítse a FAISS keretrendszert, amellyel a kimenet szemantikai hasonlóságot kaphat:

pip telepítse a faiss-gpu-t

Most telepítse a tiktoken tokenizert, hogy a szöveget kisebb darabokra bontsa a következő kód segítségével:

pip install tiktoken

2. lépés: Könyvtárak és példák használata

A következő lépés az MMR-példaválasztó, a FAISS, az OpenAIEMbeddings és a PromptTemplate létrehozásához szükséges könyvtárak importálása. A könyvtárak importálása után egyszerűen hozzon létre egy példakészletet, amely bemeneteket és kimeneteket ad a megfelelő bemenetekhez több tömbben:

tól től langchain. felszólítja . example_selector import (
MaxMarginalRelevanceExampleSelector ,
SemanticSimilarityExampleSelector ,
)
tól től langchain. vektortárak import FAISS
tól től langchain. beágyazások import OpenAIEembeddings
tól től langchain. felszólítja import FewShotPromptTemplate , PromptTemplate

example_prompt = PromptTemplate (
bemeneti_változók = [ 'bemenet' , 'Kimenet' ] ,
sablon = 'Bemenet: {input} \n Kimenet: {output}' ,
)

példák = [
{ 'bemenet' : 'boldog' , 'Kimenet' : 'szomorú' } ,
{ 'bemenet' : 'magas' , 'Kimenet' : 'rövid' } ,
{ 'bemenet' : 'energikus' , 'Kimenet' : 'letargikus' } ,
{ 'bemenet' : 'napos' , 'Kimenet' : 'komor' } ,
{ 'bemenet' : 'szeles' , 'Kimenet' : 'nyugodt' } ,
]

3. lépés: Példaválasztó felépítése

Most kezdje el felépíteni az MMR példaválasztót a MaxMarginalRelevanceExampleSelector() metódussal, amely különböző paramétereket tartalmaz:

example_selector = MaxMarginalRelevanceExampleSelector. from_examples (
példák ,
OpenAIEembeddings ( ) ,
FAISS ,
k = 2 ,
)
mmr_prompt = FewShotPromptTemplate (
example_selector = example_selector ,
example_prompt = example_prompt ,
előtag = 'Adja meg minden bemenet antonimáját' ,
utótag = 'Bevitel: {melléknév} \n Kimenet:' ,
bemeneti_változók = [ 'melléknév' ] ,
)

4. lépés: Az MMR példaválasztó tesztelése

Tesztelje a Maximal Marginal Relevance MMR példaválasztót úgy, hogy meghívja a print() metódusban a következő bemenettel:

nyomtatás ( mmr_prompt. formátum ( melléknév = 'aggódó' ) )

5. lépés: A SemanticSimilarity használata

Ez a lépés a SemanticSimilarityExampleSelector() metódust, majd a LangChain által támogatott FewShotPromptTemplate() metódust használja:

example_selector = SemanticSimilarityExampleSelector. from_examples (
példák ,
OpenAIEembeddings ( ) ,
FAISS ,
k = 2 ,
)
Hasonló_prompt = FewShotPromptTemplate (
example_selector = example_selector ,
example_prompt = example_prompt ,
előtag = 'Adja meg minden bemenet antonimáját' ,
utótag = 'Bevitel: {melléknév} \n Kimenet:' ,
bemeneti_változók = [ 'melléknév' ] ,
)
nyomtatás ( Hasonló_prompt. formátum ( melléknév = 'aggódó' ) )

Ez minden a Maximal Marginal Relevance vagy az MMR használatáról szól a LangChainben.

Következtetés

A Maximal Marginal Relevance vagy az MMR példaválasztó használatához a LangChainben telepítse a szükséges modulokat. Ezután importálja a könyvtárakat a példakészlet felépítéséhez a bemeneti és kimeneti prompt sablon használatával. Építse fel az MMR-példaválasztót, hogy tesztelje azt az MMR-példaválasztó és a FewShotPromptTemplate() metódus használatával a releváns kimenet eléréséhez. Ez az útmutató a Select-by-MMR példaválasztó használatának folyamatát mutatja be a LangChainben.