OpenLIT 是一个专为 AI 工程设计的开源平台,专注于生成式 AI 和大型语言模型(LLMs)。它通过提供工具来简化 AI 开发工作流程,包括实验 LLMs、组织和版本化提示、以及安全地管理 API 密钥。该平台提供跨不同供应商的端到端请求追踪,以增强性能可见性,详细的跨度追踪用于监控响应时间,并支持 OpenTelemetry 以自动追踪 AI 应用程序。此外,OpenLIT 还包括成本追踪、异常监控和详细的堆栈追踪功能,以便于故障排除。它还提供了一个集中的提示库、安全的密钥管理,并且只需一行代码即可轻松集成。