环球新资讯:小冰CEO李笛:数字人的未来是混合模型
大模型技术很酷,但李笛更关注付诸实用。
(资料图片)
来源:猎云精选,文/盛佳莹
今年以来,大模型掀起热潮,沉寂许久的人工智能再一次令所有人兴奋起来。尤其是ChatGPT的出圈,为人工智能这把火添了新柴。
《人类简史》中提到,智人之所以能够成为这个星球唯一霸主,一个重要的原因是他们发展出了“虚拟”的语言。
数字人要想逼真,在语言能力上势必要下功夫,而ChatGPT的语义理解能力相比过往的人工智能有着显著的提升,不少人认为有大模型驱动,数字人将有变革性的发展。
而就在大模型浩浩荡荡而来,所有人都在加速狂奔时,小冰CEO李笛早在几个月前提出了自己的判断,在他看来,大模型只是揭示了一场变革的开始,但它远远不是变革本身。
掌舵小冰公司,相比于追求技术的酷,李笛更关注技术的实用性和稳健性。
不可否认,大模型固然是好。
“在数字人领域,大模型确实可以解决过去一些没有解决的问题。”李笛告诉猎云网,一方面,大模型涌现的能力之一是思维链,在一定程度上,比过去的知识图谱做得更好,“过去,大多通过脚本让人工智能一个步骤一个步骤地去完成一件事情,但到了大模型,它自己一定程度上有逻辑思维能力,会思考自己下一步应该做什么,这有机会让数字人去控制更多的线上线下的场合。”
另一方面,大模型在回答问题方面,比过去的检索模型、生成模型在质量上有巨大的提升,但尽管如此,大模型依然没有突破到意识层面。
对于数字人而言,其交互场景往往多样复杂,无法判断用户具体交互何种内容,这要求数字人需要拥有一定的通用泛化能力,而此前行业内使用的检索模型,往往无法覆盖长尾问题。
除此之外,李笛提到在与数字人交互时,用户对内容的需求偏向也不同,“有时候用户可能只是想和数字人聊天,寻求陪伴,这个时候更偏向于数字人输出有趣的内容,而有时候用户和数字人交互是纯知识交流,这个时候需要数字人提供有用的内容。”
李笛坦言,过去“有趣”和“有用”往往无法两全其美,只能偏重其中一方,但大模型的出现有机会让两者并重。
“大模型可以大量压缩信息,在预训练过程中,远大于其他检索模型所能压缩的知识,可以做很好的预测。”
或许因为大模型的“大力出奇迹”,让不少人对大模型产生了极大的期待,认为其将变革数字人行业。
但在李笛看来,这并不代表一个大模型可以驱动数字人的一切,他对大模型在数字人领域的应用视为是驱动数字人的其中一个技术来源。
事实上,李笛比国内平均早一年接触到ChatGPT,在国内数字人厂商狂热追逐大模型之时,李笛已经看到了大模型的问题所在。
李笛谈到:“大模型的本质仍是回答问题,但是人与人之间是互相激发,也并不一定要回答问题,要想让数字人像人,一定不能只是一个答疑者。”
此外,李笛还谈到,人在交互过程中是多模态交互。“虽然大模型也向多模态方向发展,但是这种多模态和数字人的多模态存在差别。大模型的多模态往往是同时处理多种模态,并把多种模态视为一个模态。而数字人的多模态是指,表情、声音、动作、语义彼此之间达成高度协调统一。”
大模型的交互速度也是数字人厂商不可忽视的维度。
在不同场景下,人对交互速度有着不同的标准,而数字人不论是直播还是对话,都偏向交流性场景,在数字人行业里有一句话,数字人的一大美德是“秒回”。
但目前大模型的交互速度仍需要几秒钟,还不能达到“秒回”的美德。如果通过堆分布式服务器提升交互速度,其成本又将进一步提高。
抛开大模型在数字人场景下的局限性不谈,就大模型技术本身而言,李笛认为大模型像学日语,“入门简单,但越往后越难。”
“大模型拉低了准入门槛,只要参数规模提高,效果会很明显,但是这个效果是粗暴的,很难有潜能。”原因在于目前,大模型涌现能力机制尚不明朗,难以预判训练效果,也难以做调优工作。
在李笛看来,至少到明年一季度之前,大模型技术仍处在新技术剧烈震荡阶段,在探明技术机制之前,李笛不敢贸然应用在产品上。
对此,李笛用了一个任天堂的类比,“作为游戏机主机商,索尼和微软追求机能,往往应用最先进的机能,而任天堂则选择榨干成熟技术,在其他公司将画质推进到4K时,任天堂在1080P、720P这些成熟的分辨率上思考如何把已有硬件性能推进到极致。”
在“酷”和“稳健”的选择中,李笛选择了“任天堂”式的稳健。
在别人追求庞大参数规模的大模型,展现出何种力量时,李笛更关心,在大量的并发使用过程中,大模型技术能稳定在什么状态,以及他需要尽可能地了解和可控这个新技术。
李笛坦言,当下大参数模型确实通用能力更强,但一味追求大参数模型,没有未来,尤其是参数规模越大,同质化越严重。
去年年底,李笛就提出了小冰认为的未来是混合模型的观点。但彼时,一味追求大模型的声音仍然居多,到现在,混合模型逐渐被更多人认可。
OpenAI 原董事霍夫曼也认为“其实GPT 1/ 20 规模的参数模型效果反而是最好的。”
事实上,从2019年开始,小冰就已经在做不同规模的模型训练和调优,有的模型只负责思考,有的模型只负责生成。目前,小冰框架内有近1000个大中小模型有机组合在一起共同支撑数字人运转。
相比于用一个大模型驱动数字人而言,混合模型在成本上有着极大的优势。而成本是商业化落地重要的考量。
“首先,模型参数规模降低,其基本运算也随之降低,其次,小冰在技术上做了调优,将其成本降低至一轮交互厘,接近检索模型厘的成本,而大模型一轮交互至少需要几毛钱。”
此外,混合模型可以运行于最廉价的T4 GPU,而无需A100等高端芯片,甚至神经网络渲染部分,可以不用运行于GPU,而是运行于CPU,“这个对应到的成本差距,大概从每分钟几块钱,或者说每小时几十块钱,到每天几毛钱的区别,可以说成本几乎为0。”
与此同时,李笛告诉猎云网,混合模型在交互速度可以做到几十到几百毫秒,远快于目前大模型几秒钟的交互速度。
更为重要的是,混合模型在经过小冰团队长期验证后,已确保技术安全边界已知。5月小冰公司发布的"GPT克隆人计划"运用的就是这套混合模型方案。
但不可否认的是,以大模型为标志,世界开始进入到更快的技术迭代周期,正如李笛所说:“大模型揭示了一场新的变革。”
标签:
精彩推送
新闻快讯
新闻快讯
- 环球新资讯:小冰CEO李笛:数字人的未来是混合模型
- 美总统参选人直言中国周边有313个美军基地-全球微头条
- 天天微头条丨官能团优先顺序苯(官能团优先顺序)
- 【全球快播报】无法访问指定设备路径或文件怎么回事 无法访问指定设备路径或文件怎么回事w11
- 中国银联:支付产业互联互通工作稳步推进,产业分工进一步明确
- 环球报道:阿巴斯甜致癌风波下,代糖企业争相“报喜”难阻股价下跌趋势
- 朝晖帮你忙(关于朝晖帮你忙介绍)
- 【环球速看料】怒了!环卫女工被老人当街猛锤暴打,起因是扫地不小心扫到
- 奇瑞e3跑高速怎么样?性能、续航、操控全面解析!
- 外交部:美方应纠正肆意侵略他国的行径 避免阿富汗悲剧再次上演
- 环球微速讯:Stellantis首席执行官卡洛斯·塔瓦雷斯(CarlosTavares)在接受媒体采访时表示,由于成本高昂以及竞争日益激烈,Stellantis不会在法国生产小型电动汽车
- “福建满山红新材料”入围《信用中国》栏目
- 焦作市解放区法院高效化解金融纠纷 银行赠送锦旗致谢-报资讯
- 环球讯息:拉萨市中小学、幼儿园7月20日放暑假
- 女孩起名字寓意好的经典好名字_比较独特的女孩名字 每日视点
- 让民众吃饱更要吃好 河南拓展绿色食品发展之路|天天快消息
- 环球讯息:五指山市出台基层教育卫生技术人才激励机制措施
- 环球焦点!省市场监管局制定10项措施 推行包容审慎信用监管
- 速读:向阿尔伯特学技能任务怎么完成_地下城阿尔伯特任务怎么完成
- 全球头条:《城市猎人:天使之泪》重播:回忆珍贵时刻
- 世界观天下!被曝“蹭红毯”的4位女星,个个尴尬至极,是谁给你勇气的?
- 浙江永强(002489.SZ)控股股东及实控人累计减持公司1.17%股份
- 无损伴奏刘思鉴 抗体 伴奏 原版伴奏 艾瑞欧ERIOE 没办法睡pt.2 SORROW 小红花 伴奏
- 【世界聚看点】大型企业界定标准_大型企业的标准是什么
- 今日快讯:mc163.com(mc 163 com官网)
- 斯莱克:与乐惠国际签订了战略合作协议 双方将共同拓展啤酒消费升级市场
- 新动态:32条典型做法出炉!河南这20个城市支持民营经济有新招
- 银轮股份:第二季度“银轮转债”转股3900股
- 暴雨突袭重庆万州!公安民警辅警闻令而动守护群众平安
- 预计年底完工!三亚将再添一生态绿道-焦点消息
- 全球今头条!全电动宝马i7 xDrive 60售价从729800令吉起
- 全球热推荐:潮州美食可以这样做,简单又地道!
- 沈阳市社保最低缴费基数2023年最新消息、标准如下
- 生死狙击好号和密码v8骗你我是狗 4399生死狙击好号和密码v8有天神2019
- 冀东装备:公司研发的水泥清仓机器人应用于水泥等粉状物料的筒仓清理 焦点
- 浙江嵊州农村商业银行股份有限公司收到中国银保监会绍兴监管分局的行政处罚决定
- dota2匹配不到人解决方法
- 环球滚动:2023太原民办初中是不是要摇号?摇不上怎么办?
- 扬帆优配|北向资金上半年加仓超1800亿元,浮亏近500亿元! 今日热门
- 【全球快播报】欧盟评估非转基因黑曲霉菌株AS 29-286生产的α-淀粉酶的安全性
- 林高远为何爆冷夺冠?王皓说了句公道话,樊振东输球一点不冤
- 世界信息:投资者建议造车!宁德时代回应
- 天天快看点丨铜冠铜箔(301217):该股换手率大于8%(07-04)
- 两大豪门功勋齐聚中甲新贵,未来将带队完成冲超任务,值得期待! 天天快看点
- 每日动态!赛恩斯 (688480):7月4日该股突破长期盘整
- 健步走活动方案_健步如飞的意思
- 世界动态:9月开始,财气缠身,迎来开门红,接财纳福的三大星座,将金银满仓
- V观财报|分众传媒:控股子公司FMK决定暂缓在韩国上市
- 江西94岁护士奶奶 获“国际成就奖”
- dota自走棋新手进哪个房间_dota自走棋新手