首批接入可调用模型200余款、用模成本最高降三成 湖北词元交易中心正式发布

科技日报记者 吴纯新 通讯员 邹子聪

9月20日，在湖北省算力产业生态大会上，湖北大数据集团词元交易中心正式发布。这是面向企业级用户的大模型服务统一管理平台，企业一次接入，即可调用平台已上架的200余款模型服务。综合测算，可为企业节约15%至30%的用模成本。

“企业使用AI普遍遇到模型获取难、使用成本高、分级管控难、安全保障难等一系列经营问题。”业内专家指出，当前企业缺的不只是一个模型，而是一套把模型用起来、管起来、算明白的服务体系。

针对这些痛点，湖北词元交易中心给出了“聚合-网关-调度-看板”四道解法。

该中心将200余款模型服务集中到一个入口，企业一次接入，即可按模型类型、服务商、能力等条件筛选、试用和调用。其通过统一协议与单点登录，实现密钥托管、内容过滤、全链路审计等安全保障，把分散在不同服务商之间的安全管理能力集中起来。

同时，智能路由为每一次调用择优选型，语义缓存让每一个词元物尽其用，故障转移保障业务连续不断线，综合测算可节约企业15%至30%的用模成本。词元消耗量和费用可按组织、部门、项目、个人等多维度查看，并提供预算、配额、异常检测和报表管理。企业不必等到月底面对一张“AI总账单”，随时可以拆开来看：谁在用？用了什么？花了多少？一目了然。

此外，依托湖北大数据集团建设运营的湖北算力互联互通平台、湖北省人工智能公共服务平台、中部数据流通服务中心等省级平台能力，湖北词元交易中心把算力调度、数据流通、模型服务和交易撮合连接起来，打通模型供给、词元计量、统一结算、供需对接等环节，让AI能力像商品一样可选、可购、可计量、可流通。

湖北大数据集团数据开发公司相关负责人介绍，今后，企业在平台买词元就像充话费一样，可以根据自己的需求去选择。

目前，该中心已上架200余款模型服务，汇聚326家生态伙伴，将算力、数据、模型和应用放到同一条链路上：算力提供“生产能力”，数据提供“生产资料”，模型负责把资源转化为实际的AI能力。以国家算力互联互通区域节点为底座，湖北词元交易中心可将分散的AI需求汇聚到同一条链路上。

未来，该中心还将持续丰富模型供给、优化智能调度能力、强化安全防护，并深化与算力互联互通平台、模型厂商和行业伙伴的合作。

封面新闻丨第40个教师节，致敬这些良师益友

亮点纷呈 氛围感拉满！2024年国家网络安全宣传周开启

封面新闻丨共赴十年之约 2024数博会引领数字经济发展新潮流

全国生态日丨我国生态环境和质量持续改善

龙乐豪院士讲述在侵略者枪下死里逃生、立志投身国防科技的故事

天关卫星与“拉索”联手！观测到42光年的“宇宙高铁”

科普一下丨“位置作弊”今后可能行不通了

杨利伟寄语执行首次登月任务的航天员

当前文章地址：http://www.yundaidian.com/quark/8444/29647.shtml