cVector向量计算一体机是一种面向亿级以上向量计算场景的高性能向量存储、计算一体化平台,采用并行计算架构,融合高密度混合服务硬件,实现对大规模向量数据的计算和比对,相较于通过GPU、向量数据库进行向量计算,cVector向量计算一体机在入库效率、计算性能方面优势突出,可广泛应用于人工智能大模型、机器学习、计算机视觉、自然语言处理等领域。
cVector向量计算一体机是一种面向亿级以上向量计算场景的高性能向量存储、计算一体化平台,采用并行计算架构,融合高密度混合服务硬件,实现对大规模向量数据的计算和比对,相较于通过GPU、向量数据库进行向量计算,cVector向量计算一体机在入库效率、计算性能方面优势突出,可广泛应用于人工智能大模型、机器学习、计算机视觉、自然语言处理等领域。
cVector向量计算一体机基于大数据分布式实时计算框架,结合定制化高密度计算硬件,实现大规模AI任务的分发与计算结果汇聚,保证计算任务执行的高效和稳定。其采用全量计算的方式,基于特征向量计算算法以及分布式集群处理资源调度技术,实现了海量特征库条件下1:N对比任务的高效分解与并行处理,可将单个任务响应效率提升到0.1秒级。对于通过向量数据库软件需要几千个时钟周期的向量计算,该一体机只需很少的时钟周期即可完成。
在“cVector 向量计算一体机 V1.0”、向量数据库A、向量数据库B和向量数据库C中存储相同的 1000 万条的 256 维向量数据,分别查询与目标向量的欧氏距离最短的 10 条向量,对比结果显示各自返回的 10 条向量与目标向量的距离值均相同。
“向量计算数据库验证平台 V1.0”性能效率符合《向量计算数据库验证平台测试需求V1.0》的相关要求,在现场测试过程中,系统运行稳定,通过了中国软件评测中心(工业和信息化部软件与集成电路促进中心)的单项性能测试。”
根据测试报告结果,cVector向量计算一体机在千万级特别是亿级以上规模的入库和查询等方面具有显著的性能优势,可帮助提高大模型推理的服务性能和服务质量,并能明显降低其基础设施建设成本,帮助类ChatGPT等人工智能企业以更优的性价比解决算力不足的问题。