在由AI技术驱动的技术革新中,金融行业站在了风口浪尖。根据德勤中国的报告,金融机构在技术层面的资金投入持续增长,预计到2024年将达到4010亿元,这反映出金融行业对AI技术的极高重视和迫切需求。AI技术在金融领域的应用趋势覆盖了智能营销、智能识别、智能投顾、智能风控和智能客服等多个方面,这些应用使得金融机构能够显著提升服务效率、降低成本,并增强风险管理能力。
以证券行业的智能投顾为例,大模型技术能够处理和分析庞大的数据集,提供精准的投资分析和决策支持。然而,随着效率的提升,对算力资源的需求也日益增加。传统的算力资源配置方式常常面临资源利用率低和成本高昂的问题,这些问题严重制约了大模型的应用效果和业务发展。
作为国内领先的基金管理公司,华夏基金积极拥抱AI技术,不仅在智能助手和机器速读两大应用领域取得了显著成果,还在AI模型的应用上展现了前瞻性的战略布局。华夏基金通过结合大模型和小模型的优势,优化了算力资源的使用,提高了模型运行的效率和效果。
在GPU资源管理方面,华夏基金面临提升资源利用率和降低运行成本的双重挑战。与京东云的合作为华夏基金带来了转机。通过采用京东云的vGPU虚拟化技术,华夏基金将物理GPU资源进行了细粒度的切分,实现了资源的动态分配和优化利用。这一技术的应用,使得华夏基金的GPU利用率最高提升了70%,大幅降低了大模型推理成本,同时也减少了硬件采购成本,用更少的AI芯片支撑了更多的训练和推理任务。