发布时间:2024-08-23 08:09:45 来源: sp20240823
大模型全面落地下的首个11.11,AIGC掀起了新一轮智能应用潮流。
数百个智能场景落地京东:京东云智能客服处理咨询超14亿次,自动为客户推荐“一键价保”等超337万次;京小智服务商家数突破36万,商品推荐准确率提升27%;言犀虚拟主播帮助中小商家降低直播成本90%……
京东11.11期间,“大模型+小应用”所激发的AIGC生产力,正由应用层步入“企业降本增效、消费提质扩容、产业高质量发展”的产业全链条,达成价值创造的正循环。
智能营销:AIGC服务商家运营提效
“数字人的作用不是推轮子,而是为商家装上了发动机。”提及数字人直播间高达46%的营销转化率,京东自有品牌惠寻的工作人员如是赞叹。
在京东11.11收官战中,言犀虚拟主播桃子联动京东零售便宜包邮频道、京东联营业务以及惠寻,开启了一场28小时的“9块9直播”。来自白象、蜂花、惠寻等品牌的88件低价好物,吸引了7万人次观看,每100人打开购物车就有近半数下单。
亮眼的营销能力,植根于京东肥沃的AIGC产业土壤。超千万自营商品SKU、5000万工业品SKU、超800万家活跃企业客户、全国2000多条产业带,为言犀大模型提供了数智供应链原生数据。在大模型能力加持下,更具产业洞察和带货思维的数字人,以不到真人1/10的成本,入驻伊利、联想、国台酒业等4000多个品牌直播间,带动GMV增长超10亿元。
除数字人直播外,大模型技术下的11.11,更多智能应用为品牌商家带来了营销新启发。
提质增效,AIGC释放内容生产力。基于京东全品类、上千万SKU数据积累,AIGC商品内容生成技术,帮助商家理解商品特征,自动生成商品图片、卖点等营销素材。通过一张商品图片,就能快速生成电商运营需要的商品主图、营销海报图和商详图,满足便捷开店、上品、营销的需求,每套图成本可降低90%,周期从7天缩短到半天。
创新驱动,领航者成为营销副驾驶。京东金融领航者营销平台,将营销专家的能力和经验固化在大模型里,过去涉及产品、研发、算法、设计、分析师等5类职能才能完成的流程可由1人完成;一个入口的全新交互模式,让人机交互次数从2000次降低至少于50次,方案生产效率提高上百倍。目前,这一平台已经落地京东内部8个场景,覆盖超过50%运营工作,11.11期间承担超过30%金融营销头图的设计工作。服务外部客户时,平台可以插件轻耦合到客户系统中,助力客户运营提率。
智能服务:人机交互提升用户体验
用最简单的二进制编码,听懂天南地北最复杂的需求,为数以亿计的消费者和商家带来“真便宜”。“大模型+小应用”在京东内场全面铺开,为消费者带来媲美真人的交互体验。
便捷高效+价值创造,智能客服保驾“真便宜、闭眼买”。面对京东11.11的海量商品,精准智能导购为消费者提供了更便捷的消费体验。京东云智能客服累计咨询服务量超14亿次,同比增长211%,尤其是运用前沿的意图识别、情感智能技术,为客户精准推送包括“一键价保”等各项特色服务。自今年启动“春晓计划”以来,作为京东官方的服务与营销一体化平台,京小智服务数增长至超36万,其中小商家相比去年双11增加102%,相比今年618增加62%。
声音供应链+需求分层,数字人主播诠释降本增效。言犀团队建立“声音供应链”,采集真人主播的声音韵律和节奏,基于多颗粒度韵律的增强语音合成技术,准确把握用户情绪,提高合成语音的韵律丰富度和可控性,并根据用户反馈持续迭代。同时推出“局部高清”和“需求分层”技术,就用户注意力集中点如数字人五官及展示的商品,进行清晰度提升,稍加弱化其他部位,便能有效平衡购物体验和带宽成本,可降低用户部署成本到此前的1/10。
医学知识构建+多模态理解,京医千询护航百姓健康。基于循证医学知识构建,京医千询整合临床实践、医学文献和专家知识,确保提供可靠的、具有科学依据的医疗建议和诊断。同时,它还具备多模态理解的能力,融汇了京东健康在服务患者过程中产生的超亿级的高质量医患对话数据,涵盖图表、文本、图像等形式,帮助医生全面了解患者情况,完成诊断和治疗决策。
看得见的智能服务,量化为京东11.11的战报数据:300个品牌销售额破亿元,新商家成交量环比上月增长5倍;京东采销直播累计观看人数突破3.2亿;京东云每秒用户访问同比提升170%……接入大模型能力的京东九数算法中台,通过拖拽组件即可完成机器学习,零代码实现人工智能开发,实现亿级别用户及商品理解建模,千卡级别分布式调度,为800+电商核心业务支撑,助力零售业务数智化转型。
源于产业、服务产业。言犀大模型融合70%的通用数据与30%京东数智供应链原生数据,这一千亿级参数的大模型,具有“更高产业属性、更强泛化能力、更多安全保障”优势,面向知识密集型、任务型产业场景,推理提速6.2倍,模型迭代部署提效超10倍。言犀AI开发计算平台,以低代码和API降低开发门槛,提供100多种训练和推理优化工具,可节约90%推理成本。
基础设施:极致降本造就技术基石
看不见的技术基石,在背后稳定地提供数智支持,实现极致降本。
混合多云技术,每年帮京东省数亿元。京东的算力集群由72个大型数据中心、近百个边缘数据中心、海量的边缘加速节点、组成。京东云通过云原生技术,将海量异构算力设施容器化,构建了“全球最大的容器集群”。京东云混合多云操作系统云舰,对这些容器集群完成超千万核资源秒级调度和高效复用,3年将处理器运算效力提升超100%,每年可节省数亿元。同时,支持大模型训练+微调+推理混合部署,将算力利用率提高70%。
存算分离技术,少买硬盘多省钱。基于存算分离架构,京东云把存储资源池化,构建了京东云云海的新一代分布式存储系统,成功将磁盘利用率提升至90%,做到千万级IOPS,延迟低至百微秒,可广泛应用于音视频存储、图片存储、数据报表等传统场景,以及存算分离、高性能计算、AI训练等新兴场景,对计算和存储资源实现解耦,可为客户节省整体基础设施成本超30%。
软硬虚拟化一体技术,榨干硬件能力实现真便宜。虚拟化是云计算的底座技术,但这个“底座”会造成服务器的额外开销。京东自研了软硬一体虚拟化引擎“京刚”,将物理服务器的虚拟化损耗降至零,榨干每台服务器的全部算力。11.11期间,京刚托起了云主机、裸金属云主机、云原生容器,最大化释放云计算低成本优势。
离在线混部技术,靠“复用”省钱。像618、11.11这样的购物节,服务器的访问量激增,常规做法是添置新服务器,但峰值节点后,服务器会闲置将带来巨大浪费。京东云“离在线混部技术”,作为复用技术,把对延迟不敏感的离线计算任务和对延迟敏感的在线服务,部署到同一集群上运行,先满足重要的在线服务需求,相对次要的离线任务,填到空闲资源中去,以复用操作,实现降本增效。
向量数据库,既要超高性能也要极致降本。京东自主研发向量数据库Vearch,平稳支撑京东百亿级向量数据高性能检索,将延迟控制在毫秒级。用于大模型预训练,可优化模型推理效率,相比传统方式推理成本降低80%,目前,Vearch已经实现大规模落地实践,服务超100家大中型企业。
向下夯实技术基石,向上做活智能应用,AIGC正成为引发生产力变革的关键力量之一。据艾瑞咨询预测,2023中国AIGC产业规模约为143亿元。2028年,将达到7202亿元。2030年,则有望突破亿万元,达到11441亿元。
当数智创新的温度传导为“企业降本增效、消费提质扩容、产业高质量发展”发展的正循环。人们不难发现,以11.11为节点的电商大促接近尾声,以“大模型+小应用”为引擎的AIGC正蓄势待发。
未来,科技服务将着眼何方?
以AIGC践行技术长征,京东云如是回答。 【编辑:钱姣姣】