Paano Makipag-ugnayan sa Mga LLM Gamit ang LangChain?

Paano Makipag Ugnayan Sa Mga Llm Gamit Ang Langchain



Ang Large Language Models o LLM ay isang makapangyarihang uri ng neural network algorithm upang bumuo ng mga chatbot na kumukuha ng data gamit ang mga command sa natural na mga wika. Ang mga LLM ay nagbibigay-daan sa mga makina/computer na mas maunawaan ang natural na wika at makabuo ng wika tulad ng mga tao. Gumagana rin ang module ng LangChain upang bumuo ng mga modelo ng NLP. Gayunpaman, wala itong LLM ngunit pinapayagan nito ang pakikipag-ugnayan sa maraming iba't ibang LLM.

Ipapaliwanag ng gabay na ito ang proseso ng pakikipag-ugnayan sa Mga Malaking Modelo ng Wika gamit ang LangChain.







Paano Makipag-ugnayan sa Mga LLM Gamit ang LangChain?

Upang makipag-ugnayan sa mga LLM gamit ang LangChain, sundin lamang ang simpleng hakbang-hakbang na gabay na may mga halimbawa:



Mag-install ng Mga Module para Makipag-ugnayan sa mga LLM



Bago simulan ang proseso ng pakikipag-ugnayan sa mga LLM gamit ang LangChain, i-install ang “ langchain ” module gamit ang sumusunod na code:





pip i-install langchain



Upang i-install ang OpenAI framework, gamitin ang API key nito para sa pakikipag-ugnayan sa mga LLM sa pamamagitan ng sumusunod na code:

pip i-install openai



Ngayon, import ' ikaw 'at' getpass ” para gamitin ang OpenAI API key pagkatapos i-execute ang code:



import sa amin
import getpass

os.environ [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API Key:' )



Tumatawag sa LLM

I-import ang OpenAI library mula sa LangChain module para italaga ang function nito sa “ llm ” variable:

mula sa langchain.llms import OpenAI

llm = OpenAI ( )


Pagkatapos nito, tawagan lamang ang ' llm ” function at ang prompt query bilang parameter nito:

llm ( 'Sabihin mo sa akin ang isang biro' )



Bumuo ng Maramihang Teksto Gamit ang mga LLM

Gamitin ang paraan ng generate() na may maraming senyas sa natural na wika upang buuin ang teksto mula sa LLM at iimbak ang mga ito sa “ llm_result ” variable:

llm_result = llm.generate ( [ 'Gusto kong makarinig ng biro' , 'Sumulat ng tula' ] * labinlima )


Kunin ang haba ng mga bagay na nakaimbak sa ' llm_result ” variable gamit ang generate() function:

lamang ( llm_result.generations )


Tawagan lang ang variable na may index number ng mga bagay:

llm_result.generations [ 0 ]


Ang sumusunod na screenshot ay nagpapakita ng tekstong nakaimbak sa “ llm_result ” variable sa 0-index nitong bumubuo ng joke:


Gamitin ang generations() method na may index -1 parameter para makabuo ng tula na inilagay sa llm_result variable:

llm_result.generations [ - 1 ]


Ipakita lamang ang nabuong output sa variable ng resulta upang makuha ang impormasyong partikular sa provider na nabuo sa nakaraang LLM gamit ang nabuong function:

llm_result.llm_output



Iyon ay tungkol sa pakikipag-ugnayan sa mga LLM gamit ang LangChain framework upang makabuo ng natural na wika.

Konklusyon

Para makipag-ugnayan sa Large Language Models gamit ang LangChain, mag-install lang ng mga frameworks tulad ng LangChain at OpenAI para mag-import ng mga library para sa mga LLM. Pagkatapos nito, ibigay ang OpenAI API key na gagamitin bilang mga LLM para sa pag-unawa o pagbuo ng natural na wika. Gamitin ang LLM para sa input prompt sa natural na wika at pagkatapos ay tawagan ito upang bumuo ng text batay sa command. Ipinaliwanag ng gabay na ito ang proseso ng pakikipag-ugnayan sa Mga Malaking Modelo ng Wika gamit ang mga module ng LangChain.