Синтаксис:
Съществува разнообразие от услуги, които Hugging Face предоставя, но една от широко използваните услуги е „API“. API позволява взаимодействието на предварително обучен AI и големи езикови модели с различни приложения. Hugging Face предоставя API за различни модели, изброени по-долу:
- Модели за генериране на текст
- Модели на превод
- Модели за анализ на настроенията
- Модели за разработка на виртуални агенти (интелигентни чатботове)
- Класификация и регресионни модели
Нека сега открием метода за получаване на нашия персонализиран API за изводи от Hugging Face. За да направим това, първо трябва да започнем, като се регистрираме на официалния уебсайт на Hugging Face. Присъединете се към тази общност на Hugging Face, като се регистрирате в този уебсайт с вашите идентификационни данни.
След като получим акаунт в Hugging Face, сега трябва да поискаме API за изводи. За да поискате API, отидете в настройките на акаунта и изберете „Означение за достъп“. Ще се отвори нов прозорец. Изберете опцията „Нов токен“ и след това генерирайте токена, като първо предоставите името на токена и неговата роля като „ЗАПИСВАНЕ“. Генерира се нов токен. Сега трябва да запазим този токен. До този момент имаме своя жетон от Прегръщащото лице. В следващия пример ще видим как можем да използваме този токен, за да получим API за извод.
Пример 1: Как да създадете прототип с Hugging Face Inference API
Досега обсъждахме метода за това как да започнем с Hugging Face и инициализирахме токен от Hugging Face. Този пример показва как можем да използваме този новогенериран токен, за да получим API за изводи за конкретен модел (машинно обучение) и да правим прогнози чрез него. От началната страница на Hugging Face изберете всеки модел, с който искате да работите и който е подходящ за вашия проблем. Да приемем, че искаме да работим с класификацията на текста или модела за анализ на настроението, както е показано в следния фрагмент от списъка с тези модели:
Ние избираме модела за анализ на настроението от този модел.
След като изберете модела, ще се появи неговата карта на модела. Тази карта на модела съдържа информация относно подробностите за обучението на модела и какви характеристики има моделът. Нашият модел е roBERTa-база, която е обучена на 58 милиона туита за анализ на настроенията. Този модел има три основни етикета на клас и категоризира всеки вход в съответните етикети на класа.
След избора на модела, ако изберем бутона за внедряване, който се намира в горния десен ъгъл на прозореца, той отваря падащо меню. От това меню трябва да изберем опцията „Inference API“.
След това API за извод предоставя цялостно обяснение как да използваме този конкретен модел с това заключение и ни позволява бързо да създадем прототипа за AI модела. Прозорецът на API за извод показва кода, който е написан в скрипта на Python.
Ние копираме този код и го изпълняваме във всяка среда на Python. Използваме Google Colab за това. След изпълнение на този код в обвивката на Python, той връща резултат, който идва с резултата и прогнозата за етикета. Този етикет и оценка се дават според нашия вход, тъй като избрахме модела „анализ на настроението на текста“. След това входът, който даваме на модела, е положително изречение и моделът е предварително обучен на три класа етикети: етикет 0 предполага отрицателно, label1 предполага неутрално и етикет 2 е настроен на положителен. Тъй като нашият вход е положително изречение, прогнозата за резултат от модела е повече от другите два етикета, което означава, че моделът е предвидил изречението като „положително“.
импортиране заявкиAPI_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
заглавки = { 'Упълномощаване' : „Носител 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“ }
деф заявка ( полезен товар ) :
отговор = заявки. пост ( API_URL , заглавки = заглавки , json = полезен товар )
връщане отговор. json ( )
изход = заявка ( {
'входове' : 'Чувствам се добре, когато си с мен' ,
} )
Изход:
Пример 2: Модел на обобщаване чрез извод
Следваме същите стъпки, които са показани в предишния пример, и създаваме прототип на шината на модела на обобщаване, използвайки неговия API за изводи от Hugging Face. Моделът за обобщение е предварително обучен модел, който обобщава целия текст, който му даваме като вход. Отидете в акаунта на Hugging Face, щракнете върху модела от горната лента с менюта и след това изберете модела, който е подходящ за обобщението, изберете го и прочетете внимателно неговата карта с модела.
Моделът, който избрахме, е предварително обучен BART модел и е фино настроен към набора от данни, изпращан от ежедневната поща на CNN. BART е модел, който е най-близък до модела BERT, който има енкодер и декодер. Този модел е ефективен, когато е фино настроен за задачи за разбиране, обобщение, превод и генериране на текст.
След това изберете бутона „разгръщане“ от горния десен ъгъл и изберете API за извод от падащото меню. API за извод отваря друг прозорец, който съдържа кода и указанията за използване на този модел с това заключение.
Копирайте този код и го изпълнете в обвивка на Python.
Моделът връща изхода, който е обобщение на входа, който сме му предоставили.
Заключение
Работихме върху Hugging Face Inference API и научихме как можем да използваме програмируемия интерфейс на това приложение, за да работим с предварително обучените езикови модели. Двата примера, които направихме в статията, бяха основно базирани на НЛП моделите. Hugging Face API може да направи чудеса, ако искаме да разработим бърз прототип чрез осигуряване на бърза интеграция на AI модели в нашите приложения. Накратко, Hugging Face има решения за всичките ви проблеми от обучението за засилване до компютърното зрение.