Тази публикация илюстрира метода за използване на функциите и класовете на изходния анализатор чрез рамката LangChain.
Как да използвам анализатора на изхода чрез LangChain?
Изходните анализатори са изходите и класовете, които могат да помогнат за получаване на структуриран изход от модела. За да научите процеса на използване на изходните анализатори в LangChain, просто преминете през изброените стъпки:
Стъпка 1: Инсталирайте модули
Първо, започнете процеса на използване на изходните анализатори, като инсталирате модула LangChain с неговите зависимости, за да преминете през процеса:
пип Инсталирай Langchain
След това инсталирайте модула OpenAI, за да използвате неговите библиотеки като OpenAI и ChatOpenAI:
пип Инсталирай openai
Сега настройте среда за OpenAI използвайки API ключа от акаунта на OpenAI:
импортирайте ни
импортиране на getpass
os.environ [ „OPENAI_API_KEY“ ] = getpass.getpass ( „API ключ на OpenAI:“ )
Стъпка 2: Импортирайте библиотеки
Следващата стъпка е да импортирате библиотеки от LangChain, за да използвате изходните парсери в рамката:
от langchain.prompts импортиране на HumanMessagePromptTemplate
от pydantic import Field
от langchain.prompts импортиране на ChatPromptTemplate
от langchain.output_parsers импортирайте PydanticOutputParser
от pydantic import BaseModel
от pydantic валидатор за импортиране
от langchain.chat_models импортирайте ChatOpenAI
от langchain.llms импортирайте OpenAI
от въвеждане на списък за импортиране
Стъпка 3: Изграждане на структура от данни
Изграждането на структурата на изхода е жизненоважното приложение на анализаторите на изхода в големите езикови модели. Преди да стигнем до структурата на данните на моделите, е необходимо да дефинираме името на модела, който използваме, за да получим структурирания изход от изходните анализатори:
температура = 0,0
модел = OpenAI ( име на модела =име_на_модела, температура =температура )
Сега използвайте класа Joke, съдържащ BaseModel, за да конфигурирате структурата на изхода, за да получите шегата от модела. След това потребителят може лесно да добави персонализирана логика за валидиране с класа pydantic, който може да поиска от потребителя да постави по-добре оформена заявка/подкана:
клас Виц ( BaseModel ) :настройка: str = поле ( описание = 'заявка за показване на шега' )
punchline: str = поле ( описание = 'отговори на запитване с шега' )
#Логическа проверка за заявката, тъй като моделът трябва да я разбере правилно
@ валидатор ( 'настройвам' )
def question_ends_with_question_mark ( cls, поле ) :
ако поле [ - 1 ] ! = '?' :
повишаване на ValueError ( „Лошо формулиран въпрос!“ )
връщане поле
Стъпка 4: Задаване на шаблон за подкана
Конфигурирайте променливата на анализатора, съдържаща метода PydanticOutputParser(), съдържащ неговите параметри:
След като конфигурирате анализатора, просто дефинирайте променливата за подкана, като използвате метода PromptTemplate() със структурата на заявката/подканата:
подкана = PromptTemplate (шаблон = „Отговорете на потребителското запитване. \н {format_instructions} \н {query} \н ' ,
входни_променливи = [ 'запитване' ] ,
частични_променливи = { 'инструкции_форматиране' : parser.get_format_instructions ( ) }
)
Стъпка 5: Тествайте изходния анализатор
След като конфигурирате всички изисквания, създайте променлива, която се присвоява с помощта на заявка и след това извикайте метода format_prompt():
_input = prompt.format_prompt ( заявка =joke_query )
Сега извикайте функцията model(), за да дефинирате изходната променлива:
изход = модел ( _input.to_string ( ) )Завършете процеса на тестване, като извикате метода parser() с изходната променлива като негов параметър:
парсер.парс ( изход )
Това е всичко за процеса на използване на изходния анализатор в LangChain.
Заключение
За да използвате изходния анализатор в LangChain, инсталирайте модулите и настройте средата OpenAI, като използвате нейния API ключ. След това дефинирайте модела и след това конфигурирайте структурата на данните на изхода с логическо валидиране на заявката, предоставена от потребителя. След като структурата на данните е конфигурирана, просто задайте шаблона за подкана и след това тествайте изходния анализатор, за да получите резултата от модела. Това ръководство илюстрира процеса на използване на изходния анализатор в рамката LangChain.