推論経路を選ぶ

セルフホスト / 配置手順

モデルの境界を明確にしてOpenMakeをインストールする

クローン、設定、実際のテストリクエストまでを説明します。必要な時間は、すでに運用しているモデルエンドポイントと配置方法によって変わります。最初に決めるのは誰がモデルを運用するかです。

推論経路を選ぶ

どちらの経路も同じOpenMakeアプリを実行し、OpenAI互換エンドポイントと通信します。違いは、推論がどこで行われ、誰が維持するかです。

  • ホスト型エンドポイント — GPUを運用せずに評価でき、送信したリクエストはモデル提供者に届きます
  • セルフホスト型エンドポイント — vLLMとLiteLLMを自分で運用し、ネットワーク、認証情報、モデルカタログを管理します
次へランタイムを準備する

ランタイムを準備する

OpenMakeはNode 24を対象とし、PostgreSQLが必要です。Dockerは参照データベースと、任意のサンドボックスサービスに使います。APIは52416、Webアプリは3000で待ち受けます。公開する前に本番URLを設定し、秘密情報をリポジトリに入れないでください。

shell
git clone https://github.com/openmake/openmake_llm.git
cd openmake_llm
node --version   # 24.x
docker --version
npm install
次へゲートウェイを設定する

ゲートウェイを設定する

エンドポイントとデフォルトのチャットモデルを指定します。環境変数名、モデルID、コマンドはすべての言語で同じです。

.env.exampleを完全な設定の基準にしてください。例の秘密値を再利用せず、外部認証情報を使う場合はTOKEN_ENCRYPTION_KEYも生成します。

shell
LLM_BASE_URL=http://localhost:4000
LLM_DEFAULT_MODEL=qwen3.6-35b-a3b
LLM_POOL_DEFAULT_CTX=262144
DATABASE_URL=postgresql://openmake:your_password@localhost:5432/openmake_llm
JWT_SECRET=$(openssl rand -hex 32)
TOKEN_ENCRYPTION_KEY=$(openssl rand -hex 32)
DB_AUTO_MIGRATE=true
次へ起動して検証する

起動して検証する

起動時にはデフォルトで保留中のマイグレーションを適用するため、初回は少し時間がかかります。プロセスが待ち受けているだけでなく、実際のユーザー経路を確認してください。

  • APIとWebプロセスが正常であることを確認する
  • サインインして設定したモデルがコンポーザーに表示されることを確認する
  • メッセージを送り、意図したモデルから回答が返ることを確認する
  • 使用量画面でリクエストが記録されたことを確認する
モデル名が表示されたOpenMakeチャット画面
モデル名が表示され、そこから回答が返ることが最初のインストール確認です。
次へ意図を持って運用する

意図を持って運用する

見た目ではなく運用モデルを変える設定があります。ユーザーを招待する前に決めてください。

スキルの自動選択は初期状態で無効です。SKILL_AUTO_SELECT_ENABLED=trueのときだけChatとAgent Tasksが自動でスキルを選びます。

  • DB_AUTO_MIGRATE=false — 起動時マイグレーションを手動運用にする
  • SKILL_AUTO_SELECT_ENABLED=true — ChatとAgent Tasksの自動スキル選択を許可する
  • ユーザー別の外部キー、または日次トークン予算付きの運用者キーを登録する