开普云亮相2024（第五届）全球数字经济产业大会，共探算力发展

2024年8月27-29日，2024（第五届）全球数字经济产业大会暨展览会在深圳盛大举办。开普智算业务公司副总经理倪亮在会上发表“定制算力的机遇与挑战”主题演讲，分享了公司在这一领域的前沿探索和实践成果。

算力市场行业洞察

随着人工智能技术的快速发展，产业对算力的需求日益增长。当下算力市场呈现两大显著趋势，一是小参数模型能力不断提升，如Llama 3.1等开源模型，在性能上已与闭源大模型持平；二是推理市场快速增长，预计到2024-2025年，推理市场将超过训练市场。这一变化不仅标志着AI技术正式步入认知时代，也为国产芯片提供了广阔的发展空间。

倪亮表示定制化算力能够针对特定业务场景进行深度优化，从而在性能、功耗、成本等方面实现领先性优势，特别是在推理阶段，由于使用确定参数的模型，定制化成为释放算力潜力的有效途径。

开普智算业务公司副总经理倪亮

倪亮进一步介绍了定制芯片的四个实现路径，包括GPU+场景算法、FPGA+算法烧制、chiplet等创新架构定制、ASIC软硬一体化定制，并详细阐述了定制算力的设计思路，分为两个阶段：第一阶段是整体软硬件协同设计方案，算法架构优化；第二阶段主要是芯片架构、电路实现，采用量化技术和稀疏化技术。

算力领域的探索

在AI算力产品方面，公司自研了开悟“云边端AI一体机”软硬件系列产品，包括“多模态训推融合一体机”“推理一体机”和“开悟魔盒”边缘一体机等多个产品，灵活满足不同用户的多元化AI算力需求。

其中“开悟魔盒”以超小型大模型一体机产品形态，将大模型能力和人工智能算力送达用户桌面端，在不改变用户原有办公软硬件配置的情况下，使用户能够迅速利用大模型智能化办公能力。“开悟魔盒”能够有效保护用户数据隐私和大模型安全应用，满足特殊行业用户安全使用大模型应用的需求。

面对定制算力市场的新机遇，开普云正针对高并发、高吞吐的推理场景，加速推进定制芯片的可行性分析，希望通过技术创新，显著提升算力效率，并有效降低运营成本，以满足市场对高效、低成本算力的迫切需求。

作为AI时代的新风口，智能算力正引领着科技变革。开普云将携手合作伙伴共同推动算力市场发展，加快提升AI算力供给的国产化率，提升算力资源统筹供给能力，推动人工智能产业不断向前发展。