メインコンテンツまでスキップ

LLM Gateway ユーザマニュアル（AICインターン生限定）

このマニュアルは、AIC（AI・高度プログラミングコンソーシアム）の LLM Gateway サービスの利用者のためのマニュアルです。

ご不明点・ご要望・トラブル等がございましたら、aic-server-group@keio.jp までご連絡ください。

利用可能ユーザ​

本サービスは現在、試験運用中のため、AICインターン生限定で公開しています。 ご理解のほどよろしくお願いいたします。

申請​

LLM Gateway のご利用には、事前に利用登録と API キーの発行が必要です。
ご利用を希望される方は、こちらのフォーム から申請を行ってください。 申請が通り次第、パスワード設定用の URL と API キーが送付されます。 API キーを控え，URL にアクセスしてパスワードを設定してください。

アクセス手順​

このプロジェクトでは、LiteLLM を通じて OpenAI 互換の API を提供しています。 基本的には、OpenAI 互換の API に対応したツールからであれば利用できますが、完全な互換ではないため、一部のツールでは正常に動作しない場合があります。

以下では、VS Code 拡張の Continue および Cline と、CLI の OpenCode から利用する手順を説明します。

使用可能なモデル​

使用可能なモデルは gemma-4-26B-A4B-it, gpt-oss-120 などがありますが、これらは予告なく変更される可能性があります。

使用可能なモデルの一覧は、以下のコマンドで確認できます。

curl https://llm.keioaic.dev/v1/models -H "Authorization: Bearer $KEIOAIC_LLM_API_KEY"

※ API キーは、申請後に送付されるメールに記載されたものを使用してください。

Continue（VS Code 拡張）をご利用の場合​

インストール​

  1. VS Code の拡張機能を開きます。
  2. Continue を検索し、Continue が提供する拡張機能をインストールします。
  3. VS Code のサイドバーに表示される Continue のアイコンをクリックします。

API キーを設定​

Continue のグローバル設定ディレクトリに .env ファイルを作成し、申請後に発行された API キーを設定します。

  • macOS / Linux: ~/.continue/.env
  • Windows: %USERPROFILE%\.continue\.env
KEIOAIC_LLM_API_KEY=<ここに発行された API キーを貼り付け>

API キーを記載したファイルは、Git などで公開しないでください。

モデルを設定​

continue 設定画面

  1. VSCode のアクティビティバーから Continue を選択します。
  2. 歯車アイコンの Open Settings をクリックし、Settings から Main Config を開きます。
  3. 以下の内容を設定して保存します。既存の設定がある場合は、models にモデルの設定を追加してください。
name: Keio AIC LLM Gateway
version: 1.0.0
schema: v1

models:
  - name: Gemma 4 26B A4B
    provider: openai
    model: gemma-4-26B-A4B-it
    apiBase: https://llm.keioaic.dev/v1
    apiKey: ${{ secrets.KEIOAIC_LLM_API_KEY }}
    roles:
      - chat
      - edit
      - apply

設定ファイルは、macOS / Linux では ~/.continue/config.yaml、Windows では %USERPROFILE%\.continue\config.yaml に保存されます。 保存後、Continue に設定が自動で反映されない場合は VS Code を再起動してください。

使い方​

  1. アクティビティバーから Continue を開きます。
  2. モデルとして Gemma 4 26B A4B などを選択し、チャット欄に内容を入力します。

Cline（VS Code拡張）をご利用の場合​

インストール​

  1. VS Code の拡張機能を開きます。
  2. Cline を検索してインストールします。

設定​

cline 設定画面

Bring my own API key を選択して、Continue をクリックします。

Cline の設定画面を開き、以下の内容で LLM Gateway 用の接続情報を設定してください。

項目値
API ProviderOpenAI Compatible
Base URLhttps://llm.keioaic.dev/v1
API Key発行された API キー
Model IDgemma-4-26B-A4B-it

使い方​

  1. Cline サイドバーを開きます
  2. モデルで gemma-4-26B-A4B-it を選びます
  3. チャット欄に依頼を入力して利用します

※ 使用料が表示されることがありますが，AIC の LLM Gateway を利用する場合は料金は発生していませんのでご安心ください。

OpenCode（CLI）をご利用の場合​

インストール​

以下のいずれかのコマンドを実行して OpenCode をインストールしてください。

# macOS / Linux
curl -fsSL https://opencode.ai/install | bash

# Node.js 20+ がインストールされている場合
npm install -g opencode-ai

設定ファイル​

OpenCode は ~/.config/opencode/opencode.json またはプロジェクト直下の opencode.json を読み込みます。 以下の内容で設定ファイルを作成してください。

{
    "$schema": "https://opencode.ai/config.json",
    "provider": {
        "litellm": {
            "npm": "@ai-sdk/openai-compatible",
            "name": "LiteLLM",
            "options": {
                "baseURL": "https://llm.keioaic.dev/v1",
                "apiKey": "{env:KEIOAIC_LLM_API_KEY}"
            },
            "models": {
                "gemma-4-26B-A4B-it": {
                    "name": "gemma-4-26B-A4B-it",
                    "limit": {
                        "context": 131072,
                        "output": 16384
                    }
                }
            }
        }
    },
    "model": "litellm/gemma-4-26B-A4B-it"
}

APIキーを設定​

シェルの初期化ファイル（例: ~/.bashrc, ~/.zshrc）に以下を追加してください。

export KEIOAIC_LLM_API_KEY=<ここに発行されたAPIキーを貼り付け>

設定反映後、シェルを再起動するか source ~/.bashrc などで読み直してください。

起動方法​

以下のコマンドで OpenCode を起動できます。

opencode

禁止事項​

  • 学習・研究活動から逸脱した目的でのサーバリソース使用を禁じます。
  • アカウント、APIキー等の認証情報を第三者に共有すること、または第三者になりすまして利用することを禁じます。
  • サービスの安定運用を妨げる行為を禁じます。
  • 法令または公序良俗に反する利用、または他者の権利・安全を侵害する利用を禁じます。
  • 上記の行為が発覚した場合は、事前に警告を行うことなく直ちにアカウントを停止いたします。

参考リンク​