Paano Gumawa ng Mga Prompt na Template sa LangChain?

Paano Gumawa Ng Mga Prompt Na Template Sa Langchain



Ang LangChain ay ang balangkas na naglalaman ng maraming dependency at mga aklatan na maaaring magamit upang bumuo ng Mga Malaking Modelo ng Wika. Maaaring gamitin ang mga modelong ito upang makipag-ugnayan sa mga tao ngunit una, dapat matutunan ng modelo kung paano makuha/maunawaan ang prompt/tanong na itinanong ng tao. Para diyan, kailangang sanayin ang modelo sa mga prompt na template at pagkatapos ay itatanong ng user ang tanong sa loob ng ibinigay na template.

Ang gabay na ito ay maglalarawan sa proseso ng pagbuo ng mga prompt template sa LangChain.







Paano Gumawa ng Mga Prompt na Template sa LangChain?

Upang bumuo ng mga prompt na template sa LangChain, dumaan lang sa sumusunod na gabay na may maraming hakbang:



Hakbang 1: I-install ang Mga Module at Kapaligiran sa Pag-setup

Simulan ang proseso ng pagbuo ng mga prompt template sa LangChain sa pamamagitan ng pag-install ng LangChain framework:



pip install langchain





Ngayon, i-install ang OpenAI modules para ma-access ang mga library nito at magtakda ng environment gamit ito:

pip install openai



I-set up ang OpenAI na kapaligiran gamit ang os library para ma-access ang operating system at ibigay ang OpenAI API key:

import sa amin
import getpass

os.environ['OPENAI_API_KEY'] = getpass.getpass('OpenAI API Key:')

Hakbang 2: Paggamit ng Prompt Template

Pagkatapos i-install ang LangChain, i-import lang ang PromptTemplate library at bumuo ng template para sa query tungkol sa isang biro na may ilang dagdag na aspeto bilang mga variable tulad ng adjective, content, atbp.:

mula sa langchain import PromptTemplate

prompt_template = PromptTemplate.from_template(
'Sabihin sa akin ang isang {style} joke tungkol sa {theme}'
)
prompt_template.format(style='funny', theme='manok')

Ang prompt ay naitakda at ibinigay sa modelo na may mga halaga ng variable na ipinasok sa command:

Maaaring i-customize ng user ang prompt template na may simpleng query na humihingi ng biro:

mula sa langchain import PromptTemplate

prompt_template = PromptTemplate.from_template(
'Sabihin mo sa akin ang isang biro'
)
prompt_template.format()

Ang pamamaraan sa itaas ay para sa isang query at sagot ngunit kung minsan ay gustong makipag-ugnayan ng user sa modelo sa anyo ng isang chat at ipinapaliwanag ng susunod na seksyon ang format nito.

Hakbang 3: Paggamit ng Chat Prompt Template

Ipinapaliwanag ng seksyong ito ang template para sa isang modelo ng chat na nakabatay sa pattern ng pakikipag-usap tulad ng dalawang tao na nakikipag-ugnayan sa isa't isa:

mula sa langchain.prompts import ChatPromptTemplate

template = ChatPromptTemplate.from_messages([
('system', 'AI chat bot upang tulungan ang user. Tinatawag kang {name}.'),
('tao', 'Hello, kumusta ka')),
('ai', 'Kumusta ka'),
('tao', '{user_input}'),
])

mga mensahe = template.format_messages(
pangalan='John',
user_input='Ano ang itatawag ko sa iyo'
)

Pagkatapos itakda ang istraktura ng template, sumulat lang ng ilang linya sa text para sabihin sa modelo kung ano ang inaasahan mula dito at gamitin ang llm() function para magbigay ng prompt:

mula sa langchain.prompts import ChatPromptTemplate
mula sa langchain.prompts.chat import SystemMessage, HumanMessagePromptTemplate

template = ChatPromptTemplate.from_messages(
[
SystemMessage(
nilalaman=(
'Narito ka upang tulungan at tulungan ang user na muling isulat ang teksto ng user nang mas epektibo'
)
),
HumanMessagePromptTemplate.from_template('{text}'),
]

)

mula sa langchain.chat_models import ChatOpenAI

llm = ChatOpenAI()
llm(template.format_messages(text='ayaw ko kumain ng masasarap na bagay'))

Ang SystemMessage() na paraan ay naglalaman ng nilalaman ng tugon para sa query na ginamit sa LLM:

Iyon ay tungkol sa pagbuo ng mga prompt template sa LangChain.

Konklusyon

Para bumuo ng prompt na template sa LangChain, i-install lang ang LangChain at OpenAI modules para mag-set up ng environment gamit ang OpenAI API key. Pagkatapos noon, gumawa ng prompt template para sa isang prompt tulad ng paghingi ng joke o isang tanong tungkol sa kahit ano. Ang isa pang paraan ay ang pag-customize ng template para sa isang modelo ng chat batay sa proseso ng pakikipag-ugnayan sa pagitan ng dalawang magkaibang tao. Ang post na ito ay naglalarawan ng proseso ng pagbuo ng prompt template sa LangChain.