LMStudio 認証呼び出しで base_url を明示渡しへ修正 + ドキュメント整備（ローカルLLM/言語マッピング/フォント等）
- controller: model.authenticationTranslatorLMStudio 呼び出しに base_url=config.LMSTUDIO_URL を明示的に渡すよう修正（LMStudio 接続判定で設定 URL を利用） - docs: 新規ドキュメントを追加・更新 - 追加: translation_gemini.md, translation_lmstudio.md, translation_ollama.md, translation_openai.md, translation_plamo.md - 更新: config.md, controller.md, mainloop.md, model.md, overlay.md, translation_languages.md, translation_translator.md, 仕様書.md（翻訳/モデル管理・エンドポイント・YAML 言語定義・フォント探索・VRAM フォールバック等の記載追加） - ドキュメントに記載した主な変更点 - LMStudio / Ollama のローカルLLM統合（モデルリスト/選択用プロパティ追加、接続確認エンドポイント） - CTranslate2 の言語定義を weight_type ネスト構造へ変更対応 - 外部 YAML による言語マッピング導入（loadTranslationLanguages） - フォント探索を PyInstaller バンドル(_internal/fonts/) を考慮して強化 - 認証後のモデルリスト自動更新・SELECTED_* プロパティ名統一、VRAM エラー検知時の自動フォールバック等の動作説明追加 （コードの振る舞いは既存処理に合わせた引数指定の修正とドキュメント反映が主体）
This commit is contained in:
misyaguziya
@@ -4,19 +4,59 @@
|
||||
|
||||
VRCTアプリケーションのメインイベントループを管理するモジュールです。標準入力からのJSONリクエストを処理し、適切なコントローラーメソッドを呼び出してレスポンスを返す、アプリケーションの中枢的な役割を担います。
|
||||
|
||||
## 最近の更新 (2025-10-20)
|
||||
|
||||
### 新規エンドポイントと run_mapping 拡張
|
||||
|
||||
- VRAM 関連エラー通知エンドポイント追加: `/run/error_translation_chat_vram_overflow` など 5 種類 (翻訳/音声認識送受信別)
|
||||
- ローカル LLM (LMStudio/Ollama) モデルリスト通知: `/run/selectable_lmstudio_model_list`, `/run/selectable_ollama_model_list` と選択モデル `/run/selected_*_model`
|
||||
- 従来の Plamo/Gemini/OpenAI モデル取得通知と形式統一
|
||||
|
||||
### エンドポイントロックキー正規化
|
||||
|
||||
- `/set/enable/*` `/set/disable/*` の競合を `/lock/set/<name>` に正規化し排他制御強化
|
||||
- ロック取得失敗時は再キュー投入し軽量リトライでデッドロック防止
|
||||
|
||||
### 並列ワーカー処理の安定化
|
||||
|
||||
- ハンドラ処理後に短い `sleep(0.2)` により大量高速連続要求時のスレッド飢餓を緩和
|
||||
- 423 (Locked) ステータス時に指数的ではなく固定短期リトライ採用で応答時間予測性向上
|
||||
|
||||
### VRAM エラーフォールバック連携
|
||||
|
||||
- Controller が VRAM 検出し翻訳 OFF / CTranslate2 フォールバック後、run_mapping 経由で UI へ状態反映
|
||||
- ハンドラはエラー時でもスレッド継続し `Internal error` を 500 応答で返しつつログ出力
|
||||
|
||||
### モデルリスト動的更新通知
|
||||
|
||||
- 認証・接続成功後に対象モデルリスト/選択モデルを run で逐次通知 (Plamo/Gemini/OpenAI/LMStudio/Ollama)
|
||||
|
||||
### 影響
|
||||
|
||||
| 項目 | 内容 |
|
||||
|------|------|
|
||||
| 安定性 | 排他制御と再キュー投入で競合時の落ち込み回避 |
|
||||
| 可観測性 | VRAM/ダウンロード進捗/モデル更新イベントを run 経由で即時通知 |
|
||||
| 拡張性 | 新規ローカル LLM エンジン追加に伴う汎用モデル通知フォーマット統一 |
|
||||
| 応答予測性 | 固定リトライ戦略で待ち時間が読みやすい |
|
||||
| フォールバック | VRAM エラー時の自動翻訳停止と CTranslate2 への切替連携 |
|
||||
|
||||
## 主要機能
|
||||
|
||||
### リクエスト処理システム
|
||||
|
||||
- JSON形式の標準入力からのリクエスト受信
|
||||
- エンドポイントベースのルーティング
|
||||
- 非同期・並列処理対応
|
||||
|
||||
### エンドポイント管理
|
||||
|
||||
- RESTライクなエンドポイント構造
|
||||
- 機能別のエンドポイント分類
|
||||
- 排他制御によるスレッドセーフティ
|
||||
|
||||
### 初期化システム
|
||||
|
||||
- アプリケーション設定の初期化
|
||||
- コンポーネント間の依存関係解決
|
||||
- 段階的な機能有効化
|
||||
@@ -24,6 +64,7 @@ VRCTアプリケーションのメインイベントループを管理するモ
|
||||
## クラス構造
|
||||
|
||||
### Main クラス
|
||||
|
||||
```python
|
||||
class Main:
|
||||
def __init__(self, controller_instance: Controller, mapping_data: dict, worker_count: int = 3)
|
||||
@@ -36,46 +77,54 @@ class Main:
|
||||
## エンドポイント分類
|
||||
|
||||
### 機能制御系
|
||||
```
|
||||
|
||||
```text
|
||||
/set/enable/* - 各機能の有効化
|
||||
/set/disable/* - 各機能の無効化
|
||||
```
|
||||
|
||||
### データ操作系
|
||||
```
|
||||
|
||||
```text
|
||||
/get/data/* - 設定データの取得
|
||||
/set/data/* - 設定データの更新
|
||||
/delete/data/* - データの削除
|
||||
```
|
||||
|
||||
### 実行系
|
||||
```
|
||||
|
||||
```text
|
||||
/run/* - 各種処理の実行
|
||||
```
|
||||
|
||||
## 主要エンドポイント
|
||||
|
||||
### 翻訳機能
|
||||
|
||||
- `/set/enable/translation`: 翻訳機能の有効化
|
||||
- `/set/disable/translation`: 翻訳機能の無効化
|
||||
- `/set/data/selected_translation_engines`: 翻訳エンジンの選択
|
||||
- `/run/send_message_box`: メッセージ送信
|
||||
|
||||
### 音声認識機能
|
||||
|
||||
- `/set/enable/transcription_send`: 送信音声認識の有効化
|
||||
- `/set/enable/transcription_receive`: 受信音声認識の有効化
|
||||
- `/set/data/selected_transcription_engine`: 音声認識エンジン選択
|
||||
|
||||
### VR機能
|
||||
|
||||
- `/set/data/overlay_small_log_settings`: 小型オーバーレイ設定
|
||||
- `/set/data/overlay_large_log_settings`: 大型オーバーレイ設定
|
||||
|
||||
### WebSocket機能
|
||||
|
||||
- `/set/enable/websocket_server`: WebSocketサーバー有効化
|
||||
- `/set/data/websocket_host`: サーバーホスト設定
|
||||
- `/set/data/websocket_port`: サーバーポート設定
|
||||
|
||||
### システム管理
|
||||
|
||||
- `/run/update_software`: ソフトウェアアップデート
|
||||
- `/run/download_ctranslate2_weight`: 翻訳モデルダウンロード
|
||||
- `/run/download_whisper_weight`: 音声認識モデルダウンロード
|
||||
@@ -87,18 +136,21 @@ class Main:
|
||||
```python
|
||||
receiver() -> None
|
||||
```
|
||||
|
||||
- 標準入力からのJSONリクエスト受信
|
||||
- パースエラーの適切な処理
|
||||
|
||||
```python
|
||||
handleRequest(endpoint: str, data: Any = None) -> tuple
|
||||
```
|
||||
|
||||
- エンドポイント処理の実行
|
||||
- ステータスコードと結果の返却
|
||||
|
||||
```python
|
||||
handler() -> None
|
||||
```
|
||||
|
||||
- ワーカースレッドのメイン処理
|
||||
- キューからのリクエスト取得・処理
|
||||
|
||||
@@ -107,21 +159,25 @@ handler() -> None
|
||||
```python
|
||||
startReceiver() -> None
|
||||
```
|
||||
|
||||
- レシーバースレッドの起動
|
||||
|
||||
```python
|
||||
startHandler() -> None
|
||||
```
|
||||
|
||||
- ハンドラースレッドプールの起動
|
||||
|
||||
```python
|
||||
start() -> None
|
||||
```
|
||||
|
||||
- 全スレッドの起動
|
||||
|
||||
```python
|
||||
stop(wait: float = 2.0) -> None
|
||||
```
|
||||
|
||||
- 全スレッドの安全な停止
|
||||
|
||||
## 使用方法
|
||||
@@ -164,6 +220,7 @@ result, status = main_instance.handleRequest("/set/enable/translation", None)
|
||||
## リクエスト形式
|
||||
|
||||
### 入力形式
|
||||
|
||||
```json
|
||||
{
|
||||
"endpoint": "string", // 必須：処理対象のエンドポイント
|
||||
@@ -172,6 +229,7 @@ result, status = main_instance.handleRequest("/set/enable/translation", None)
|
||||
```
|
||||
|
||||
### 出力形式
|
||||
|
||||
```json
|
||||
{
|
||||
"status": 200, // HTTPステータスコード
|
||||
@@ -191,11 +249,13 @@ result, status = main_instance.handleRequest("/set/enable/translation", None)
|
||||
## 排他制御
|
||||
|
||||
### ロック機能
|
||||
|
||||
- enable/disableペアは同一ロックキーを共有
|
||||
- 同一機能の同時実行を防止
|
||||
- デッドロックを回避する設計
|
||||
|
||||
### ロックキー正規化
|
||||
|
||||
```python
|
||||
/set/enable/translation -> /lock/set/translation
|
||||
/set/disable/translation -> /lock/set/translation
|
||||
@@ -204,32 +264,38 @@ result, status = main_instance.handleRequest("/set/enable/translation", None)
|
||||
## 初期化プロセス
|
||||
|
||||
### 段階的初期化
|
||||
|
||||
1. コントローラーの初期化
|
||||
2. デバイスマネージャーの初期化
|
||||
3. モデルの初期化
|
||||
4. 各機能の段階的有効化
|
||||
|
||||
### 初期化mapping
|
||||
|
||||
- `/get/data/*`エンドポイントから初期化設定を自動抽出
|
||||
- システム起動時の設定復元
|
||||
|
||||
## ログ機能
|
||||
|
||||
### プロセスログ
|
||||
|
||||
- 全リクエスト・レスポンスの記録
|
||||
- JSON形式での構造化ログ
|
||||
|
||||
### エラーログ
|
||||
|
||||
- 例外の詳細記録
|
||||
- スタックトレースの保存
|
||||
|
||||
## 依存関係
|
||||
|
||||
### 直接依存
|
||||
|
||||
- `controller`: ビジネスロジック制御
|
||||
- `utils`: ユーティリティ機能（ログ、エンコード等）
|
||||
|
||||
### 間接依存
|
||||
|
||||
- `config`: 設定管理
|
||||
- `model`: コアモデル機能
|
||||
- `device_manager`: デバイス管理
|
||||
@@ -237,11 +303,13 @@ result, status = main_instance.handleRequest("/set/enable/translation", None)
|
||||
## 設定項目
|
||||
|
||||
### ワーカー数
|
||||
|
||||
```python
|
||||
DEFAULT_WORKER_COUNT = 3 # 並列処理スレッド数
|
||||
```
|
||||
|
||||
### タイムアウト
|
||||
|
||||
- キュー待機タイムアウト: 0.5秒
|
||||
- スレッド停止待機: 2.0秒
|
||||
- 処理安定化待機: 0.2秒
|
||||
@@ -256,14 +324,17 @@ DEFAULT_WORKER_COUNT = 3 # 並列処理スレッド数
|
||||
## パフォーマンス特性
|
||||
|
||||
### スループット
|
||||
|
||||
- 複数ワーカーによる並列処理
|
||||
- ノンブロッキングI/O
|
||||
|
||||
### レイテンシ
|
||||
|
||||
- キューイング遅延の最小化
|
||||
- 排他制御による一時的な遅延あり
|
||||
|
||||
### メモリ使用量
|
||||
|
||||
- リクエストキューのサイズ制限なし（要注意）
|
||||
- スレッドプールによる固定オーバーヘッド
|
||||
|
||||
@@ -272,4 +343,4 @@ DEFAULT_WORKER_COUNT = 3 # 並列処理スレッド数
|
||||
- 標準入力をブロッキングで読み取るため、パイプ経由での使用を想定
|
||||
- エンドポイント名の大文字小文字は区別される
|
||||
- Base64データは自動的にデコードされる
|
||||
- 長時間のブロッキング処理は他のリクエストに影響する可能性
|
||||
- 長時間のブロッキング処理は他のリクエストに影響する可能性
|
||||
|
||||
Reference in New Issue
Block a user