LangChain с OpenAI-совместимым API: настройка в России

Обновлено: 15 октября 2026

LangChain и LlamaIndex работают с OpenAI через класс ChatOpenAI, который принимает собственный base_url. Значит, любой код на LangChain можно перевести на API Market за минуту.

Подключение

# pip install langchain-openai
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://api-market1.shop/v1",
    api_key="sk-ваш-ключ",
    model="gpt-6-sol",
    temperature=0.3,
)
print(llm.invoke("Объясни, что такое RAG, в двух предложениях").content)

Через переменные окружения

Если код уже написан и менять его не хочется, задайте переменные OPENAI_BASE_URL=https://api-market1.shop/v1 и OPENAI_API_KEY=sk-…. Библиотеки OpenAI, LangChain и многие другие подхватят их автоматически.

Агенты и инструменты

Для агентов с вызовом функций (tools) используйте модели, которые хорошо следуют инструкциям: gpt-6-sol или gpt-6-astra. Метод llm.bind_tools([...]) работает так же, как с OpenAI.

RAG

Для поиска по документам нужна модель для ответа и модель эмбеддингов. Уточните доступные модели эмбеддингов на странице цен или в поддержке; при необходимости эмбеддинги можно считать локальной моделью (например, через sentence-transformers), а ответы генерировать через API.

Экономия

В цепочках с множеством шагов используйте дешёвую модель (gpt-6-luna) для промежуточных шагов и сильную — только для финального ответа.

Другие гайды

• Как получить API-ключ ChatGPT в России: пошаговая инструкция
• Как подключить ChatGPT к Telegram-боту на Python
• OpenAI в n8n из России: настройка за 5 минут
• Что такое токены и как считается стоимость запроса к нейросети
• Какую нейросеть выбрать: сравнение GPT-6, Gemini, DeepSeek, Grok и Kimi