AIGC导航推荐
AIGC写作平台
AI写作工具
AI论文写作
AI论文查重
AIGC降重
AI提示词
AI内容检测
AI公文
AI阅读
AI小说
AI小红书文案
AI写标书
AIGC绘画工具
AI绘画工具
AI绘画提示
AI绘画社区
AI绘画模型
AI-3D生成
AI图形工作站
AI图片审核
AI搜索图片
AI素材
AI绘本
PS·AI插件
AI漫画翻译
AIGC视频平台
AI视频生成
AI数字人
AI视频后期
AI口播视频
AI动作捕捉
AI换脸
AI博主
AI视频模型
AI字幕翻译
图片转视频
AI动漫视频
AI短剧
AI数字生命
AIGC智能对话
AI智能助手
AIGC搜索引擎
AI聊天对话
AI知识问答
AI角色扮演
AI女友
AIGC设计工具
AI设计工具
AI图像处理
AI图像扩展
AI商品图
AI一键抠图
AI标志设计
AI空间设计
AI服装设计
AI字体设计
AI头像/艺术照
AI艺术二维码
AI珠宝设计
AIGC音频工具
AI语音生成(配音)
AI语音识别
AI语音合成
AI语音降噪
AI音乐创作
AI同声传译
AIGC办公效率
AI制作PPT
AI文档处理
AI电子表格
AI思维导图
AI总结摘要
AI翻译
AI会议助理
AI简历制作
AI协作办公
AI浏览器插件
AI调查问卷
AI域名
AIGC行业证书
AIGC学习资源
AIGC免费课程
AIGC专题课程
AIGC精选专栏
AI运营启发
京东AI好书推荐
prompt学习
全球大学AI
大陆大学AI
AI行业协会
AI行业门户
AI官方活动
AI中文研究机构
AI海外研究机构
AI大赛
AI 智能体平台
Agents开发平台
AI 大模型平台
AI大语言模型
AI多模态大模型
AI视觉大模型
AI视频大模型
AI语音大模型
AI行业大模型
AI海外大模型
AI大模型评测
AIGC基础设施
AI应用接口API
AI基础设施
AI算力平台
AI云服务
AIGC开发平台
AI编程工具
AI开源项目
AI开发课堂
AI开发框架
AI开放平台
AI开发者社区
AI低(无)代码编程
AI-SQL数据库
AI训练模型
AI国际导航
AIGC应用场景
AI流量优化
AI营销工具
AI数字员工
AI法律服务
AI电子合同
AI人力资源
AI数据分析
AI企业服务
AI舆情分析
AI安全技术
AIGC行业应用
AI游戏应用
AI生命科学
AI跨境电商
AI金融事务
AI教育助理
AIGC元宇宙
AI公益应用
AIGC工具提交
首页
资讯
报告
福利
公示
API
AI 快讯
AI证书
首页
•
AIGC行业资讯
•
ChatGPT的战火,已经燃烧到第二阶段 评估AI大模型实力,别只看算力
ChatGPT的战火,已经燃烧到第二阶段 评估AI大模型实力,别只看算力
AIGC行业资讯
1年前 (2023)更新
编辑员
1.7K
0
4
ChatGPT
的战火,已经燃烧到第二阶段。
去年年底,Chat
GPT
爆火出圈让大众意识到了语言模型的智能与魅力,随后国内外科技巨头与
AI
企业接连响应,推出自家
AI
聊天机器人
。但To C只是第一战场,如今科技巨头们正将鏖战
焦点
转向更大的战场——To B的企业AI
大模型
服务。
随着多家
云计算
大厂公布AI
大模型
服务,一个关键难题摆在想要将
大模型
能力与自身业务做结合的企业面前:
怎么选?
换句话说,怎么衡量大模型的优劣?有哪些可以参考维度?可能不少人的第一反应是看算力,毕竟
ChatGPT
从底座大模型训练到上线后的每日运行都非常烧钱。的确,没有算力优势是万万不行的,但这并不代表着“得算力者得天下”,除了算力之外,进入大模型落地期后,企业更需关注的是
大模型全生命周期的综合体验
。
这就好比买手机时,大家会首先关心跑分,因为跑分越高意味着性能越好。但跑分并不等同于使用体验,在跑分相差不多时,手机的实际体验跟系统、UI设计、应用程序、隐私安全、续航能力、售后服务等很多因素挂钩。
企业选用大模型也是类似的,不仅要看算力,还要看综合体验和实效,包括大模型本身能力、大模型企业服务能力、全栈技术积累程度等。
当前企业在云平台上选用大模型服务,主要需求可分成三类:
一是使用大模型的能力,实现自家产品和服务的升级;二是基于既有大模型微调出面向特定场景的专属大模型;三是租赁算力。
在这种情况下,要衡量大模型服务,具体可以参考哪些维度?下面我们将拆解来看。
01
.
大模型落地,企业怎么选?
六大关键参考维度
大模型服务好不好,可以看一些硬指标。
一是高效性
。影响大模型训练和推理效率的主要因素涉及整个IT技术栈,
需要由算力、框架、模型(包括丰富的大模型体系)、应用构筑的四层架构相互配合提供支撑
,形成很强的协同作用和高效的反馈闭环,帮助大模型调优迭代、降本增效。反映到实际数据上,可以重点关注
千卡加速比、异构资源利率、模型开发迭代效率
等参数。
以在这四层IT架构的每一层都做了重资产投入的百度为例,据百度集团副总裁侯震宇昨日在文心大模型技术交流会上分享,百度是全球唯一在这四层架构的各个层面都拥有领先自研产品的公司。
百度AI
大底座的千卡并行线性加速比达到
90%
以上,训练资源利用率超过
70%
,模型开发迭代效率提升
100%
。
二是易用性
。即上手门槛有多高,这是影响客户体验的核心因素,包括有没有与实际业务需求匹配的服务模式、能否提供从开箱即用到深度定制的服务和工具,交付和部署方式是否灵活等。
三是全面性
,包括是否覆盖大模型全生命周期(从训练大模型到用好大模型)的开发、管理、应用集成服务。
四是安全性
。这也是越来越多企业关心的问题,最近三星为了防止企业机密泄露还下达了“
AI聊天
机器人
封杀令”。因此大模型服务必须有完备的安全机制,来确保模型输入输出稳定,保障数据安全。此外是否完全自主可控也影响安全性。
五是开放性
。有的大模型服务支持的大模型类型有限,有的则不仅支持自研大模型,还支持多种开源大模型及其他第三方大模型。
六是扩展性
。如果大模型服务支持集成更多插件,并能够对插件做更多编排,则能通过外挂应用的方式,更好地拓展大模型能力边界。
02
.
全能型的大模型厨房:
既能直接用,又能自生产
目前,企业应用大模型面临诸多难点:模型体积大,训练难度高;算力规模大,性能要求高;数据规模大,数据质量参差不齐……对此,
云计算
企业需将模型开发、训练、调优、运营等复杂过程封装起来,通过低门槛、高效率的企业级服务平台深入产业,来为千行百业提供服务。
自3月16日
文心一言
邀请内测以来,百度在“AI大模型+云服务”上的排兵布阵一直备受关注。昨日,百度智能云终于公开交卷,宣布其正在内测的“文心千帆大模型平台”将提供两种服务:
一是以
文心一言
为核心,提供大模型服务,帮助客户改造产品和生产流程;二是支持企业基于任何开源或闭源的大模型,开发自己的专属大模型
。
百度集团副总裁侯震宇说,文心千帆大模型平台是全球首个一站式的企业级大模型平台。所谓“一站式”是指不仅提供大模型服务,还提供大模型开发和应用的整套工具链,并支持各类第三方大模型,未来将成为大模型生产和分发的集散地。
文心千帆就相当于是一个“
大模型厨房
”,你可以直接端走做好的大模型菜肴成品(比如文心一言大模型),再稍微加点调料就能端给客户享用;你也可以自带食材、厨师,使用文心千帆提供的完整灶台和丰富的工具自己做菜。
从易用性来看,文心千帆提供的服务已经能够覆盖绝大多数企业诉求。目前该平台提供
公有云服务、私有化部署
两大交付模式,私有化部署能满足对数据监管有严格要求的企业需求。
其公有云服务将提供:
推理
(直接调用大模型的推理能力)、
微调
(通过高质量精标业务数据,高效训练出特定行业的大模型)、
托管
(将模型发布在百度智能云,以实现更加稳定高效的运行)三种服务,大降企业部署大模型的门槛。
为了直观展示微调大模型的操作,百度智能云AI与
大数据
平台总经理忻舟在
现场演示了微调行业专属大模型的全过程
。使用文心千帆的可视化开发工具链,企业用少量数据即可发起模型微调,
最快几分钟就能训出专属大模型
。
其私有化部署将提供:
软件授权
(提供在企业环境中运行的大模型服务)、
软硬一体
(提供整套大模型服务及对应的硬件基础设施),
租赁软硬件服务
(提供机器和平台的租赁,满足客户低频需求)三种方式。
无论是哪种服务,都有助于提升大模型开发和应用的效率,让企业能更快地将算力更高效地转化成企业效益。
从高效性来看,除了前文提到的一些关键参数指标外,据忻舟透露,通过端到端优化,其文心千帆大模型平台在多级多卡训练性能上实现了更快的收敛,在全球权威AI基准评测MLPerf榜单中排名
世界第一
;并将三个知名千亿参数第三方开源模型BLOOM、LLaMA、GLM的分布式并行训练加速性能平均提升了
150%
。
实现这些优化的基石是百度打造的国内首个全栈自研的AI基础设施“
百度AI
大底座”。百度的算力、框架、模型、应用四层AI架构都实现了自主可控,这也是它区别于其他国内云计算大厂的一大优势所在。
国内厂商少有的万卡GPU储备、提供高性价比算力的百度自研AI
芯片
昆仑芯、国产最大AI
深度学习
开源平台飞桨、丰富的文心大模型体系、连续四年蝉联中国AI公有云第一……百度手中握有的这些王牌,加上四层IT架构端到端优化,各层优势层层累加,构筑了其在提供极致大模型应用体验方面的核心护城河。基于此,文心一言启动内测1个多月后,大模型推理成本降为原来的1/10。
从全面性、扩展性来看,文心千帆提供了大模型的全流程工具链,并支持丰富应用插件,其私有化部署的软硬一体方案支持包括英特尔、超微、海光、飞腾等的各种CPU
芯片
以及包括
英伟达
、昆仑芯、海光DCU等的各种AI加速卡。这些都为企业按需选择服务提供了更高的自由度。
据悉,文心千帆未来会聚焦五个方面:
海量高质量专业数据集开放、模型深度调整和高效训练、大模型高效压缩、快速模型应用编排、Prompt自动生成
。
03
.
300余家生态伙伴
已参与文心一言内测
从产业实践进展来看,文心千帆大模型平台是国内第一梯队中的排头兵。
对内
,文心千帆的技术已经被应用到
搜索、推荐、地图、如流、小度
等百度内部产品中。这些产品正在基于文心一言升级。这些落地实践的反馈和经验全部整合到文心千帆大模型平台中,有助于帮企业在使用大模型的过程中少踩坑。
比如百度内部办公软件“如流”借助文心千帆提供的企业搜索插件搭建了一个
文心千帆AI小助手
功能。过去获得一个答案平均时间约5分钟,现在小助手
平均5秒
就能解答一个产品或技术难题,大幅提升了工作效率。百度智能云进行了现场演示提问:“我想训练行业大模型,成本大概怎么预估?”如流小助手很快回答说:“通常需要使用500GB+的数据制作行业大模型,大概2500亿汉字,训练行业大模型大概需要10万~50万卡时。”
文心一言大模型是文心千帆大模型平台上的第一个大模型,企业在文心千帆大模型平台上,既可以直接用文心一言大模型的企业服务或者基于文心一言大模型进行微调后使用,也可以在平台上开发、管理自己的大模型。
百度智能云的金融行业应用、政务行业应用、智能创作平台、智能客服、企业知识管理、数字人直播平台等六大智能产品系列,将基于文心大模型全面升级,未来将在安全评估完成后上线。
对外
,文心千帆面向首批企业客户内测以来,正在与不同领域客户联合研发,在
智能办公、旅行服务、电商直播、政务服务、金融服务
五大领域打造行业样板间。这些都是当前在引入
生成式AI
应用方面最为积极的一些业务场景。
比如在办公领域,文心一言在意图理解、PPT大纲生成、范文书写、生成待办列表、
文生图
等多模态生成的场景上,与金山办公的联合开发已取得进展。金山办公助理总裁田然说,文心千帆在安全合规、模型深度、迭代速度、推理性能等多个方面都有一定的优势。
百度还帮长安汽车构建了AI基础设施平台和数字人平台。现在双方基于百度文心大模型正在开发一款智能产品,赋能长安汽车的一款量产车型。
在昨天的活动现场,百度智能云与联想集团、用友、宝兰德等14家文心千帆生态伙伴举行签约仪式。百度集团副总裁袁佛玉说:“截至目前,已有超过
300家
生态伙伴参与文心一言内测,在
400多个
企业内部场景取得测试成效。”
04
.
结语:”云智一体”的
智能化
新基建大幕拉开
随着越来越多的行业开始接入大模型,同时开源社区日趋活跃,大模型落地生态发展正呈现欣欣向荣的景象,
创新
应用也正喷薄而出。目前国内大模型正呈百家争鸣之态势,没有哪家做到一家独大,大模型评测亟待有权威的评估标准,百度也正推动相关建设。
对于长期在全栈AI上做重资产投入的百度来说,大模型改写云计算游戏规则的历史性机会已经到来,而面对争夺大模型底座话语权的硬仗,百度智能云已经准备充分。它的底气从三年前提出的“云智一体”战略、全栈自研的AI基础设施布局,如今又增加了正在快速扩张生态的文心一言和兼容并包的文心千帆大模型平台。
经济学家任泽平曾预测说,”云智一体”的智能化新基建,将深刻影响我国实体经济。站在AI公有云市场前排,百度智能云如何应对快速增长的大模型批量化生产需求与
AI算力
普及化趋势,在后续打好手中的技术王牌?我们拭目以待。
# AIGC行业资讯
# AI
# AI算力
# AI聊天
# ChatGPT
# GPT
# 云计算
# 创新
# 大数据
# 大模型
# 文心一言
# 文生图
# 机器人
# 深度学习
# 焦点
# 生成式
# 生成式AI
# 百度AI
# 聊天机器人
# 芯片
# 英伟达
©
版权声明
本文转载自互联网、仅供学习交流,内容版权归原作者所有,如涉作品、版权或其它疑问请联系
AIGC工具导航
或
点击删除
。
上一篇
抖音为虚拟人直播立规矩!ChatCPT和AIGC大热探索AI路上一骑绝尘
下一篇
GPT大模型“上车”,带来汽车交互新方式
相关文章
ai如何用网格工具制作马赛克(AI网格工具怎么用)
动作捕捉演员要求,在人工智能时代的新挑战
论文写作样本与范文,如何撰写高质量的学术论文
毕业论文怎么检测
AI如何设置安全线
智能工业,新时代下的工业革命
搜索:
欢迎报考:工信部AIGC提示工程师
热门文章
AI视频Pixverse使用,可以使用制作电影
科普:关于AIGC的十问十答
毕业论文开题报告万能模板
ai绘画各个平台(8个免费AI画图工具网站,快来试试吧)
热门网址
PixVerse
GPT-4O【中文平替版】
即梦Dreamina – 免费
豆包AI写作助手
Civitai社区 – C站
赞芽PPT
Kimi写作助手
豆包AI助手
吐司AI绘画 – 免费
LiblibAI·哩布哩布AI【官网】
清影 – AI视频生成
智谱AI写作助手