Paano Patakbuhin ang LLMChains sa LangChain?

Ang LangChain ay ang balangkas na nagbibigay-daan sa mga developer na bumuo ng Mga Malaking Modelo ng Wika o mga modelo ng chat na maaaring gamitin ng mga tao upang kumuha ng impormasyon. Ang mga modelong ito ay maaaring gamitin upang makipag-ugnayan sa mga natural na wika, pagkatapos maunawaan ang mga utos upang makabuo ng mga teksto nang naaayon. Gumagamit ang mga LLM o chatbot ng mga chain upang makipag-ugnayan sa mga tao sa pamamagitan ng pag-imbak ng mga nakaraang mensahe bilang mga obserbasyon upang makuha ang konteksto ng chat.

Ang gabay na ito ay maglalarawan sa proseso ng pagpapatakbo ng LLMChains sa LangChain.

Paano Patakbuhin ang LLMChains sa LangChain?

Nagbibigay ang LangChain ng mga feature o dependencies para sa pagbuo ng LLMChains gamit ang LLMs/Chatbots at prompt templates. Upang matutunan ang proseso ng pagbuo at pagpapatakbo ng LLMChains sa LangChain, sundin lamang ang sumusunod na sunud-sunod na gabay:

Hakbang 1: I-install ang Mga Package

Una, magsimula sa proseso sa pamamagitan ng pag-install ng LangChain module upang makuha ang mga dependency nito para sa pagbuo at pagpapatakbo ng LLMChains:

pip install langchain

I-install ang OpenAI framework gamit ang pip command para magamit ng mga library ang OpenAI() function para sa pagbuo ng mga LLM:

pip install openai

Pagkatapos ng pag-install ng mga module, simple itakda ang kapaligiran mga variable gamit ang API key mula sa OpenAI account:

angkat ikaw

angkat getpass

ikaw . humigit-kumulang [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API Key:' )

Hakbang 2: Mag-import ng Mga Aklatan

Kapag kumpleto na ang setup at na-install na ang lahat ng kinakailangang package, i-import ang mga kinakailangang library para sa pagbuo ng prompt na template. Pagkatapos nito, buuin lang ang LLM gamit ang OpenAI() na paraan at i-configure ang LLMChain gamit ang mga LLM at prompt na template:

mula sa langchain angkat PromptTemplate

mula sa langchain angkat OpenAI

mula sa langchain angkat LLMChain

prompt_template = 'bigyan mo ako ng magandang titulo para sa negosyong gumagawa ng {product}?'

llm = OpenAI ( temperatura = 0 )

llm_chain = LLMChain (

llm = llm ,

prompt = PromptTemplate. from_template ( prompt_template )

)

llm_chain ( 'makukulay na damit' )

Hakbang 3: Running Chains

Kunin ang listahan ng input na naglalaman ng iba't ibang produkto na ginawa ng negosyo at patakbuhin ang chain upang ipakita ang listahan sa screen:

input_list = [
{ 'produkto' : 'medyas' } ,
{ 'produkto' : 'computer' } ,
{ 'produkto' : 'sapatos' }
]

llm_chain. mag-apply ( input_list )

Patakbuhin ang paraan ng generate() gamit ang input_list sa LLMChains upang makuha ang output na nauugnay sa pag-uusap na nabuo ng modelo:

llm_chain. bumuo ( input_list )

Hakbang 4: Paggamit ng Single Input

Magdagdag ng isa pang produkto upang patakbuhin ang LLMChains sa pamamagitan ng paggamit lamang ng isang input at pagkatapos ay hulaan ang LLMChain upang makabuo ng output:

llm_chain. hulaan ( produkto = 'makukulay na medyas' )

Hakbang 5: Paggamit ng Maramihang Mga Input

Ngayon, buuin ang template para sa paggamit ng maraming input para sa pagbibigay ng command sa modelo bago patakbuhin ang chain:

template = '''Sabihin sa akin ang isang {adjective} joke tungkol sa {subject}.'''
prompt = PromptTemplate ( template = template , input_variables = [ 'pang-uri' , 'paksa' ] )
llm_chain = LLMChain ( prompt = prompt , llm = OpenAI ( temperatura = 0 ) )

llm_chain. hulaan ( pang-uri = 'malungkot' , paksa = 'mga pato' )

Hakbang 6: Paggamit ng Output Parser

Ang hakbang na ito ay gumagamit ng output parser method upang patakbuhin ang LLMChain upang makuha ang output batay sa prompt:

mula sa langchain. output_parsers angkat CommaSeparatedListOutputParser

output_parser = CommaSeparatedListOutputParser ( )

template = '''Ilista ang lahat ng mga kulay sa isang bahaghari'''

prompt = PromptTemplate ( template = template , input_variables = [ ] , output_parser = output_parser )

llm_chain = LLMChain ( prompt = prompt , llm = llm )

llm_chain. hulaan ( )

Ang paggamit ng parse() na paraan upang makuha ang output ay bubuo ng isang listahan na pinaghihiwalay ng kuwit ng lahat ng mga kulay sa bahaghari:

llm_chain. predict_and_parse ( )

Hakbang 7: Pagsisimula Mula sa Mga String

Ipinapaliwanag ng hakbang na ito ang proseso ng paggamit ng string bilang prompt upang patakbuhin ang LLMChain gamit ang modelo at template ng LLM:

template = '''Sabihin sa akin ang isang {adjective} joke tungkol sa {subject}'''

llm_chain = LLMChain. from_string ( llm = llm , template = template )

Ibigay ang mga halaga ng mga variable sa string prompt upang makuha ang output mula sa modelo sa pamamagitan ng pagpapatakbo ng LLMChain:

llm_chain. hulaan ( pang-uri = 'malungkot' , paksa = 'mga pato' )

Iyon ay tungkol sa pagpapatakbo ng LLMChains gamit ang LangChain framework.

Konklusyon

Upang buuin at patakbuhin ang LLMChains sa LangChain, i-install ang mga kinakailangan tulad ng mga pakete at i-set up ang kapaligiran gamit ang API key ng OpenAI. Pagkatapos nito, i-import ang mga kinakailangang aklatan para sa pag-configure ng prompt na template at modelo para sa pagpapatakbo ng LLMChain gamit ang mga dependency ng LangChain. Ang user ay maaaring gumamit ng mga output parser at string command upang patakbuhin ang LLMChains gaya ng ipinakita sa gabay. Ang gabay na ito ay nagpapaliwanag sa kumpletong proseso ng pagpapatakbo ng LLMChains sa LangChain.

Paano Patakbuhin ang LLMChains sa LangChain?