50万数据平均耗时正常范围200-300ms，但是有部分请求会突然变成10s，原因是啥

[jhyever]

[yhmo]

多半是客户端并发量达到了milvus server处理能力的上限，有些请求会在proxy那里排队等很久。

[yhmo]

FLAT是暴搜，每一条向量都会被计算，单个请求耗时50ms也是正常的，50万条向量
换成IVF_FLAT，nlist设置128，nprobe设置8，耗时就10ms以下。或者换成HNSW

[jhyever]

合并查询 是啥意思呀，会影响功能嘛
queryNode:
grouping:
enabled: false
maxNQ: 1000
topKMergeRatio: 20

[yhmo]

合并查询就是车站等车的乘客太多，如果用的士一个个运，又费钱又费油，所以换成大巴运，一辆大巴50人运走，省钱。
https://zhuanlan.zhihu.com/p/148274838 这是早期milvus的合并查询机制，跟现在的milvus的合并查询原理也差不多

[jhyever]

这样话，合并查询性能应该更好的才对呀，我看我配置现在就是合并查询，如果改成false，岂不是性能又变差了嘛，
现在主要就是个别请求会耗时较长

[yhmo]

性能有两个方面：

1. 每个查询的耗时越短越好
2. 每秒能执行的查询请求数量越多越好

合并查询会使得每个查询的耗时延长，但每秒执行的请求数量增加了，那你说这是性能变好还是变差？