первый Установить Python Сумка:
pip install embedchain
Установить После пакета,По вашему желанию,Вы можете использовать следующее:
В этом разделе представлен пример быстрого запуска, показывающий, как использовать Mistral в качестве модели LLM с открытым исходным кодом (большая языковая модель) и преобразователи предложений в качестве модели внедрения с открытым исходным кодом. Эти модели бесплатны и запускаются в основном на вашем локальном компьютере.
Мы используем Hugging Face размещен на Мистраль, значит тебе нужен Hugging Face токен для запуска этого примера. это бесплатно , вы можете создать его здесь here。
import os
# Замените эту строку на свою HF жетон
os.environ["HUGGINGFACE_ACCESS_TOKEN"] = "hf_xxxx"
from embedchain import App
config = {
'llm': {
'provider': 'huggingface',
'config': {
'model': 'mistralai/Mistral-7B-Instruct-v0.2',
'top_p': 0.5
}
},
'embedder': {
'provider': 'huggingface',
'config': {
'model': 'sentence-transformers/all-mpnet-base-v2'
}
}
}
app = App.from_config(config=config)
app.add("https://www.forbes.com/profile/elon-musk")
app.add("https://en.wikipedia.org/wiki/Elon_Musk")
app.query("What is the net worth of Elon Musk today?")
# Ответ: Илон Musk Сегодня собственный капитал составляет 2587 миллиардов долларов.
В этом разделе мы будем использовать LLM и встраивание моделей из OpenAI.
import os
from embedchain import App
# Замените эту строку на свою OpenAI ключ
os.environ["OPENAI_API_KEY"] = "sk-xxxx"
app = App()
app.add("https://www.forbes.com/profile/elon-musk")
app.add("https://en.wikipedia.org/wiki/Elon_Musk")
app.query("What is the net worth of Elon Musk today?")
# Ответ: Илон Musk Сегодня собственный капитал составляет 2587 миллиардов долларов.