LlamaIndex + Evrona
LlamaIndex принимает OpenAI-совместимый адрес сразу в конструкторе модели — отдельного пакета не требуется.
Что нужно подготовить
Нет ключа? Создайте аккаунт — ключ создаётся в кабинете, в разделе «API-ключи», и полное значение показывается один раз. Model ID копируется из каталога целиком, вместе с префиксом до «/».
Порядок подключения
Поставьте пакет llama-index-llms-openai.
Соберите модель с api_base, вашим ключом и Model ID.
Отдайте её индексу или движку запросов обычным порядком.
# pip install llama-index-llms-openai
from llama_index.llms.openai import OpenAI
llm = OpenAI(
model="google/gemini-3.7-flash",
api_base="https://evrona.ru/v1",
api_key="ev-ВАШ_КЛЮЧ",
is_chat_model=True,
context_window=128000,
)
print(llm.complete("Hello"))is_chat_model=True ставить обязательно: без него LlamaIndex уйдёт на устаревший путь /v1/completions, которого у шлюза нет. context_window задавайте по окну выбранной модели из каталога.
Вызов функций поддерживается, поэтому агентные режимы работают. Строгий JSON-режим (response_format) и снятый формат functions шлюз отклоняет ошибкой unsupported_parameter — молча параметр не теряется. Картинки на вход берут модели с пометкой «Понимает изображения» в каталоге: часть content типа image_url со ссылкой вида data:image/png;base64,… (PNG, JPEG или WebP, до 5 МБ каждая, до 50 штук на запрос). Внешние ссылки шлюз не скачивает, а модель без этой пометки возвращает ошибку unsupported_capability — обе ошибки прямо называют причину.