Paano Gamitin ang Output Parser sa LangChain?

Paano Gamitin Ang Output Parser Sa Langchain



Ang LangChain ay ang balangkas na naglalaman ng lahat ng mga dependency at mga aklatan upang bumuo ng mga modelo na maaaring makabuo ng output sa anyo ng teksto. Ang output text ay kinuha o nabuo sa natural na mga wika upang ang mga tao ay madaling maunawaan at makipag-usap. Gayunpaman, ang output ay dapat na nasa tamang format at ang mahusay, nakabalangkas na impormasyon ay maaaring magbigay ng komprehensibong kaalaman sa gumagamit.

Ang post na ito ay naglalarawan ng paraan ng paggamit ng mga output parser function at mga klase sa pamamagitan ng LangChain framework.

Paano Gamitin ang Output Parser sa pamamagitan ng LangChain?

Ang mga output parser ay ang mga output at klase na makakatulong upang makuha ang structured na output mula sa modelo. Upang matutunan ang proseso ng paggamit ng mga output parser sa LangChain, dumaan lang sa mga nakalistang hakbang:







Hakbang 1: I-install ang Mga Module
Una, simulan ang proseso ng paggamit ng mga output parser sa pamamagitan ng pag-install ng LangChain module kasama ang mga dependency nito upang dumaan sa proseso:



pip i-install langchain



Pagkatapos nito, i-install ang OpenAI module para magamit ang mga library nito tulad ng OpenAI at ChatOpenAI:





pip i-install openai

Ngayon, i-set up ang kapaligiran para sa OpenAI gamit ang API key mula sa OpenAI account:



import sa amin
import getpass

os.environ [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API Key:' )

Hakbang 2: Mag-import ng Mga Aklatan
Ang susunod na hakbang ay ang pag-import ng mga aklatan mula sa LangChain upang magamit ang mga output parser sa balangkas:

mula sa langchain.prompts import PromptTemplate
mula sa langchain.prompts import HumanMessagePromptTemplate
mula sa pydantic import Field
mula sa langchain.prompts import ChatPromptTemplate
mula sa langchain.output_parsers import PydanticOutputParser
mula sa pydantic import BaseModel
mula sa pydantic import validator
mula sa langchain.chat_models import ChatOpenAI
mula sa langchain.llms import OpenAI
mula sa pag-type ng Listahan ng pag-import

Hakbang 3: Building Data Structure
Ang pagbuo ng istraktura ng output ay ang mahalagang aplikasyon ng mga output parser sa Malaking Modelo ng Wika. Bago makarating sa istruktura ng data ng mga modelo, kinakailangang tukuyin ang pangalan ng modelong ginagamit namin upang makuha ang structured na output mula sa mga output parser:

pangalan_modelo = 'text-davinci-003'
temperatura = 0.0
modelo = OpenAI ( modelo_pangalan =model_name, temperatura =temperatura )

Ngayon, gamitin ang klase ng Joke na naglalaman ng BaseModel upang i-configure ang istraktura ng output upang makuha ang joke mula sa modelo. Pagkatapos nito, madaling magdagdag ang user ng custom validation logic gamit ang pydantic class na maaaring humiling sa user na maglagay ng mas mahusay na nabuong query/prompt:

klaseng Joke ( BaseModel ) :
setup: str = Patlang ( paglalarawan = 'query para magpakita ng biro' )
punchline: str = Field ( paglalarawan = 'sagot sa tanong na may biro' )
#Logic validation para sa query dahil kailangan itong maunawaan nang maayos ng modelo
@ validator ( 'setup' )
def question_ends_with_question_mark ( cls, field ) :
kung patlang [ - 1 ] ! = '?' :
itaas ang ValueError ( 'Masamang nabuong tanong!' )
bumalik patlang

Hakbang 4: Pagtatakda ng Prompt Template
I-configure ang parser variable na naglalaman ng PydanticOutputParser() na pamamaraan na naglalaman ng mga parameter nito:

parser = PydanticOutputParser ( pydantic_object =Joke )

Pagkatapos i-configure ang parser, tukuyin lamang ang prompt variable gamit ang PromptTemplate() na pamamaraan na may istraktura ng query/prompt:

prompt = PromptTemplate (
template = 'Sagutin ang query ng user. \n {format_instructions} \n {tanong} \n ' ,
input_variables = [ 'tanong' ] ,
partial_variables = { 'format_instructions' : parser.get_format_instructions ( ) }
)

Hakbang 5: Subukan ang Output Parser
Pagkatapos i-configure ang lahat ng mga kinakailangan, lumikha ng isang variable na itinalaga gamit ang isang query at pagkatapos ay tawagan ang format_prompt() na paraan:

joke_query = 'Sabihin mo sa akin ang isang biro'
_input = prompt.format_prompt ( tanong =joke_query )

Ngayon, tawagan ang model() function para tukuyin ang output variable:

output = modelo ( _input.to_string ( ) )

Kumpletuhin ang proseso ng pagsubok sa pamamagitan ng pagtawag sa parser() method na may output variable bilang parameter nito:

parser.parse ( output )

Iyon ay tungkol sa proseso ng paggamit ng output parser sa LangChain.

Konklusyon

Para magamit ang output parser sa LangChain, i-install ang mga module at i-set up ang OpenAI environment gamit ang API key nito. Pagkatapos nito, tukuyin ang modelo at pagkatapos ay i-configure ang istraktura ng data ng output na may logic validation ng query na ibinigay ng user. Kapag na-configure na ang istraktura ng data, itakda lang ang prompt na template, at pagkatapos ay subukan ang output parser upang makuha ang resulta mula sa modelo. Ang gabay na ito ay naglalarawan ng proseso ng paggamit ng output parser sa LangChain framework.