Redmineの設定

作業内容¶

Claude API および他の LLM (CyatoGPT, DeepSeek) との連携サービスを実装し、統一的なインターフェースを構築します。

詳細タスク¶

1. LLM サービス基盤の実装

   • /api/services/llm/index.js - 基本インターフェース
   • /api/services/llm/config.js - モデル設定管理
   • トークン計算・管理機能
   • エラーハンドリング共通化

2. Claude API 連携の実装

   • /api/services/llm/claude.js - Claude 専用連携
   • ストリーミング対応
   • レート制限管理
   • 高度なパラメータ制御

3. 追加 LLM 連携の実装

   • /api/services/llm/cyato.js - CyatoGPT 連携
   • /api/services/llm/deepseek.js - DeepSeek 連携
   • モデル間の差異抽象化
   • フォールバック機能

4. プロンプト管理システムの実装

   • /api/services/prompt/index.js - プロンプト管理
   • /api/services/prompt/templates.js - テンプレート
   • 動的変数置換
   • コンテキスト挿入最適化

5. LLM 使用状況分析・監視の実装

   • 使用状況ログ記録
   • コスト計算
   • パフォーマンス分析

技術的指示¶

• Anthropic Claude API 仕様に準拠
• ストリーミングレスポンスには Server-Sent Events を使用
• 各 LLM API の特性を考慮した抽象化レイヤーの設計
• API キーは環境変数または安全な設定から取得
• レート制限を尊重するための指数バックオフ再試行の実装
• トークン使用量を正確に計算・追跡

成果物¶

• LLM サービス基盤
• Claude API 連携モジュール
• 追加 LLM 連携モジュール
• プロンプト管理システム
• 使用状況分析・監視機能
• テスト用スクリプト

参考リソース¶

• Anthropic Claude API ドキュメント
• CyatoGPT, DeepSeek API ドキュメント
• LLM プロンプトエンジニアリングガイド
• Node.js でのストリーミングレスポンス実装パターン