nan3
新闻资讯
神速云在线算力平台率先支持Llama3.1训练推理,并提供算力支持
来源:神速信息 日期:2024-07-28

Meta(Facebook母公司)于7月23日开源了最新的Llama3.1系列模型,Llama系列模型是Meta公司于2023年2月发布的大型语言模型开源版本,自发布以来迅速在海内外开源社区引起巨大反响,无数开发者跟进、使用、调试,并且可以用于商业应用的开发,对推动大模型在AI应用场景探索、应用落地具有重大意义。


image.png

 

此次发布的Llama3.1系列模型,是至今为止最为强大和丰富的模型版本。神速云(SSCloud)第一时间在开发者平台上架包括80亿、700亿和4050亿参数在内的三款模型。同时,神速云也率先推出针对Llama3.1系列模型的训练、部署和推理服务,企业和开发者可以在神速云上基于系列模型打造属于自己的专属大模型应用。

Llama 3.1系列模型提供了不同规模的版本,最大的4050亿参数版本在性能测评中表现尤为突出。该版本的上下文长度扩展至12.8万tokens,并新增了对八种语言的支持,其庞大的尺寸使得在本地开发和部署变得极具挑战性。

 

image.png


针对大模型开发部署难的问题,神速云不仅推出了一键训练、部署和推理方案,还为用户提供大模型运行必需的算力支持。神速云依托神速信息数量庞大的服务器资源,可以帮助开发者一键部署、一键调用,让开发者专注于构建大模型应用,神速云做好算力基础设施服务方面的支持。

在云端进行大模型开发和使用有着显著优势。神速云在线算力平台依托自有AI服务器基础设施,提供丰富的AI计算资源,支持企业和开发者完成大模型的深度开发、高效部署和高并发推理。神速云打造了模型服务平台,提供从大模型选择、体验到再训练、部署和推理的一站式服务。

神速云,作为中国云计算的重要一员,致力于成为AI时代算力基础设施服务商,支持国内大模型生态系统的繁荣。自去年以来,神速云在线算力平台逐步支持Llama、Mistral、Stable Diffusion、ComfyUI等开源模型的开发应用。

神速信息是一家在AI领域具有领先优势的高新技术企业,致力于成为AGI(通用人工智能)时代的算力基础设施服务商。其业务涵盖智算中心、服务器研发制造、云计算和终端应用,构建了一体化的闭环业务模式,为客户提供全面的算力解决方案。