自社データを接続し、回答を検証し、リリース前にretrieval品質を見える化できるLLM上の制御レイヤーを作る。
RAGパイプライン、APIレイヤー、request tracing、eval sets、回答品質を監視する管理シナリオを設計。
LLM
Python
FastAPI
- primary
- RAG-ready
- secondary
- evals + traces
- kind
- LLM / RAG