Summary
跨 Tikoly 提供商网络的端到端延迟测量。遥测管道为 Token 流提供低于 10ms 的中位延迟。
摘要
Tikoly 的遥测骨干网络在 RJ 数据中心与用户仪表盘之间提供低于 10ms 的中位延迟。即使在最大负载下,99 百分位仍保持在 42ms 以下,使 Tikoly 适用于无法容忍抖动的实时智能体应用。
基准测试结果
- 中位 TTFB(首 Token 时间):所有提供商平均 340ms
- P99 TTFB:快速模型 890ms,推理模型 2.4s
- 遥测管道延迟:3.2ms 中位(发布到仪表盘更新)
- 记账提交:每笔借记/贷记交易 1.8ms 中位
基础设施
RJ 数据中心运行专用推理节点。工作流编排多步骤智能体任务,具备持久执行保证。我们的复式账本为每 Token 提供记账——所有交易 99.999% 可审计。