AI原生应用难产的症结所在-从研发困境到商业化瓶颈 (ai原生应用与大模型)
AI原生应用,这个概念在过去几个月里被炒得沸沸扬扬。互联网巨头们纷纷宣告入局,创业公司更是狂热不已。尽管我们意识到了应用层的巨大机遇,但大模型并没有颠覆所有应用,所有产品都在不痛不痒地改造。为什么会出现这样的情况?
端到端原生应用为何难产?
我们通常会同时跑四五个模型,哪个性能更优就选择哪个。
硅谷的一位大模型创业者在与「自象限」交流时提到,他们基于基础大模型开发AI应用,但前期并不绑定某一个大模型,而是让每一个模型都上来跑一跑,最终选择最合适的那个。简单来说,赛马机制如今也卷到了大模型身上。
但这种方式其实仍存在一些弊端,因为它虽然选择了不同大模型进行尝试,但最终还是会与其中某一个大模型进行深度耦合,这还是一种端到端的研发思路,即一个应用对应一个大模型。
但与应用不同,作为底层大模型,它同时又却会对应多个应用,这就导致了同一个场景下的不同应用之间,最后的差异十分有限。而更大的问题在于,目前市场上的基础大模型都各有所长的同时也各有所短,还没有某个大模型成为六边形战士,在所有领域遥遥领先,所以这导致基于一个大模型开发的应用最终难以在各个功能上实现平衡。
大模型与应用解耦
在这样的背景下,大模型与应用解耦就成了一种新的思路。
所谓解耦其实分为两个环节。首先是大模型与应用解耦。作为AI原生应用的底层驱动力,大模型和原生应用之间的关系其实可以和汽车行业进行类比。对于AI原生应用来说,大模型就像是汽车的发动机。
同样一款发动机可以适配不同的车型,同一款车型也可以匹配不同的发动机,通过不同的调教,可以实现从微型车到豪华车的不同定位。所以对于整车来说,发动机只是整体配置的一个部分,而不能成为定义整辆汽车的核心。
类比到AI原生应用,基础大模型是驱动应用的关键,但基础大模型并不应该与应用实现完全绑定。一个大模型可以驱动不同的应用,同一个应用也应该可以由不同的大模型进行驱动。
这样的例子其实在目前的案例中已经有了体现,比如国内的飞书、钉钉,国外的Slack,都可以适配不同的基础大模型,用户可以根据自身需要进行选择。
其次是在具体的应用当中,大模型与不同的应用环节应该层层解耦。一个典型的例子是HeyGen,这是一家在国外爆火的AI视频公司,它的年度经常性收入在今年3月份就达到了100万美元,并在今年11月达到1800万美元。
HeyGen目前拥有25名员工,但它已经建立了自己的视频AI模型,并同时集成了和Anthropic的大型语言模型和ElevenLabs的音频产品。基于不同的大模型,HeyGen制作一个视频就会在创作、脚本生成(文本)、声音等不同的环节用上不同的模型。
另一个更直接的案例是的插件生态,最近国内剪辑应用剪映加入了ChatGPT的生态池,在这之后,用户在ChatGPT上要求调用剪映的插件制作视频,剪映就能在ChatGPT的驱动下自动生成一个视频。
结语
AI原生应用的开发还处于早期阶段,还有很多问题需要解决。但可以肯定的是,大模型与应用解耦将成为未来发展的重要趋势。通过解耦,我们可以充分发挥大模型的优势,同时避免其带来的限制。这样,我们才能真正打造出下一代颠覆性的AI原生应用。
百度智能云AI技术加身,自动驾驶量变到质变倍道兼行
当前,自动驾驶技术的发展可谓日新月异,不过离最高级别还相去甚远。2022年,自动驾驶行业在喜忧参半中前行,一方面,众多自动驾驶公司估值缩水、裁员倒闭,高级别自动驾驶技术商业化落地尚需时日;另一方面,国内自动驾驶利好政策密集出台,首次实现立法突破,自动驾驶测试区不断增加。
据IDC《中国汽车云市场跟踪研究,22H2》报告显示,2022下半年,中国汽车云解决方案市场规模共计17.62亿人民币。其中,中国自动驾驶研发解决方案市场规模达4.95亿人民币,同比增长100.2%。网络智能云以35.9%的市场份额排名第一,同比实现162.0%的超高速增长,在国内汽车云市场中处于龙头地位。
在自动驾驶预冷之际,网络智能云为什么能够在竞争激烈的智能云市场取得如此骄人业绩?在自动驾驶赛道,网络智能云有怎样的布局和哪些合作模式?如何利用优越的闭环能力提升自动驾驶领域客户的核心竞争力?
图 | 网络智能云泛科技行业总经理张玮接受焉知专访
带着这些问题,记者在焉知第三届焉知年会线下专场会——网络智能云自动驾驶领域区域“智能行”系列活动(华东站)期间专访了网络智能云泛科技行业总经理张玮。他表示,网络智能云布局由来已久,之所以能够得到广大客户的高度认可,皆源于以合作模式、极致优化、全面数据服务,以及“AI大底座”技术,持续满足客户的差异化需求,为客户创造价值。
智能云市场网络何以一骑绝尘?
不言而喻,智能汽车是未来汽车发展的方向,自动驾驶技术已成为智能汽车研发的关键,汽车云市场竞争的关键领域之一正是自动驾驶。2023年,作为一种集成多种AI技术的综合模型,“AI+大模型”在自动驾驶中呈现出广阔应用前景,成为整个智能汽车行业关注的焦点。
网络智能云之所以在中国自动驾驶研发解决方案市场领袖群伦,张玮道出了个中缘由:“首先得益于网络智能云的领先架构。作为大模型与自动驾驶并重的头部科技公司,网络智能云基于‘云智一体’优势,正持续发力自动驾驶应用。”
他说,从2019年提出“云智一体”概念至今,网络智能云“云智一体”架构已迭代至3.0版本。通过切入行业核心场景,打造行业标杆应用,带动和沉淀了AI PaaS和AI IaaS层的能力,打造出极致性价比的异构算力和高效AI开发运行能力,其向上可优化已有应用、孵化新应用,向下可以改造数字底座。
“‘云智一体’战略让我们较早地在芯片、框架、模型和应用各层进行了布局和协同,成为全球唯一一家在各层都有领先产品的公司,”张玮说。
如果要给网络智能云找两个关键词,其一是“聚焦”,网络智能云依托“云智一体”的领先优势,聚焦自动驾驶研发过程,利用核心技术做最核心的事;其二是“完整”,网络智能云提供了从业务侧到资源侧的完整解决方案,包括端到端数据闭环、贯穿研发流程的工具链、为工具链提效的大模型,以及为全流程提供强大算力支持的“AI大底座”,能够满足从L2到L4的研发需求,加速自动驾驶业务落地。
整体布局满足客户差异化需求
谈到网络智能云在自动驾驶领域的布局,张玮表示,网络智能云依靠多年来在云计算、大数据、人工智能的深耕,赋能自动驾驶多个垂直赛道,客户涵盖乘用车造车新势力、商用车干线物流类、Tier1/2汽车零部件厂商、L4/L5无人自动驾驶小车,以及耕耘自动驾驶算法、解决方案的科技公司。
在解决方案层面,网络智能云提供自动驾驶云边协同、安全合规、量产车流量调度等解决方案,相关智能座舱解决方案、大数据解决方案都在场景打磨过程中。相比其他友商,网络智能云的产品与解决方案更为全面,无论是最佳实践,还是产品功能等都有丰富的最佳实践、落地场景,全面覆盖智驾、智舱、智图、智云四个领域。
灵活多样的合作模式也是网络智能云的一大特色,“合作既可以是双方共建式的战略合作,也可以是项目的合作,当然,我们也非常欢迎客户成为我们的生态合作伙伴,联合打磨解决方案和产品,”张玮表示。
在满足不同客户的差异化需求方面,网络智能云提供了丰富的产品和服务,包括基础云底座的IaaS和PaaS服务,还有上层应用级别的通用应用产品和行业应用产品,不同的客户可以各取所需。
在张玮看来,车企选择云服务合作伙伴的关键考量主要包括:一是技术实力和服务能力,比如能否提供先进的产品技术和解决方案,能否提供安全可靠的数据存储和计算服务,以及能否提供高效专业的客户服务;二是合作伙伴的支持和协同能力,包括是否有完善的合作机制和支持体系,是否能够协同创新和开拓市场;三是能否提供定制化解决方案,满足车企的差异化需求。
为了提供更好的服务,网络智能云从四个方面入手打造,一是加强技术研发和服务能力建设,不断提升产品技术和解决方案的先进性和服务质量;二是建立完善的合作机制和支持体系,为合作伙伴提供全方位的支持和服务;三是与合作伙伴一起积极进行市场推广和业务创新;四是注重定制化解决方案的开发,为客户量身定制。
极致优化为客户创造价值
构建自动驾驶端到端的模型生产和上线迭代的闭环能力,是自动驾驶领域客户加速技术研发和商用落地的核心竞争力之一。在这方面,网络智能云通过网络百舸方案对自动驾驶常用模型进行了优化与加速,尤其是通过百舸方案的AIAK训练加速能力。
截止目前,在CV、NLP、推荐场景中,基于百舸AIAK-Training2.0能力,针对自动驾驶典型模型,如resNET、bert、swin-transformer等,网络智能云携手英伟达,通过数据加载优化、模型计算优化、多卡通信优化等手段,实现了17个模型训练多达39%-390%的性能提升。“这项模型训练优化工作还在不断扩展和进行中。所以,网络百舸尤其模型训练加速能力,能为客户带来非常大的价值,”张玮信心满满。
他介绍说,网络智能云的AI IaaS,也就是网络百舸是一个AI异构计算平台,包含AI计算、AI存储、AI加速、AI容器四大核心套件,具有高性能、高弹性、高速互联、高性价比等特性。该平台充分汲取了网络异构计算平台多年的技术积累,深度融合无人驾驶场景的实践经验,能够为AI场景提供软硬一体解决方案,加速AI研发和工程化落地。
全面数据服务助客户降本增效
那么,在自动驾驶的数据采集、数据传输、数据存储、数据处理/标注、数据训练/仿真/测试等各个阶段,网络智能云是否都可以提供相应的服务呢?张玮给出了肯定的答案。
据他介绍,网络智能云可以提供自动驾驶领域全部的工具链能力,完整覆盖数据采集、传输、存储、数据处理与标注,以及训练/仿真/测试等自动驾驶业务环节。例如,在车辆数采环节,网络智能云有专业的数采服务,具备满足安全合规要求的甲级测绘资质。数据采集完成后,使用网络智能云移动存储设备月光宝盒及适配车机的硬盘,可满足用户对数据传输的时效性和安全性要求。随着采集数据量的不断增长,数据存储、扩展及成本控制已成为企业的重点考量,为此,网络智能云提供具备海量存储、AI数据处理等能力的对象存储产品。
在自动驾驶工具链的数据标注方面,网络智能云能够输出基于安全合规的数据标注解决方案。在自动驾驶训练环节,基于百舸AI异构计算平台,通过其AI计算层面的RDMA网络能力、AI存储层面的高速数据读取能力、AI容器层面的虚拟化与隔离能力,以及AI加速层面的训练推理加速能力,不仅可以大幅降低通信延时,提升训练与推理效率,还能在很大程度上帮助企业降低成本。网络智能云可以为企业客户提供基于海量场景精准度量的云仿真平台,帮助客户实现降本增效。
张玮坦承,自动驾驶数据,尤其是车采数据,量级非常庞大,随着存储规模的不断增大,存储成本也会成为一个棘手的问题。这种场景很适用网络智能云对象存储产品,因为它不仅具备分级存储能力,可以帮客户控制存储成本,同时轻松实现海量数据扩容,又具备原生的若干AI数据处理能力。PFS产品是专门针对高性能计算场景的并行文件存储服务,可以提供亚毫秒级访问能力、高IOPS及高吞吐的数据读写请求能力,非常适合AI训练场景,特别是自动驾驶训练数据集存储场景。利用存储分类,不仅能够精细化满足场景需求,也能提升业务和训练效率,帮助客户降低存储成本。
在数据标注环节,人工标注耗时费力,且标准不一。通常,云厂商都试图通过工程方法尽量减少人工标注,以提高标注效率。两种方法一是通过机器自动化标注,然后人工修正部分数据;二是通过仿真模拟生成大量标注好的数据。“这两种方式,在网络智能云内部都在使用。对于全新业务场景或经验积累较少的特定业务场景,优先以人工标注为主,以不断积累经验。之后再不断将能力完善到自动化标注工具中,所以目前已知的众多自动驾驶数据标注场景中,都在使用我们的自动化标注工具。”张玮说。
最后是路采车产生的海量数据的传输。张玮指出,通常企业会面临图商资质、采集备案、规范路采、脱敏脱密等业务痛点。“网络智能云有专业的数据采集服务,不仅有采集车队,还有专业的车辆改装技术团队,可进行深度定制,满足客户的多样化需求。”张玮补充说:“在具体数据传输中,都是按照安全合规要求进行;对于路采车是以加密硬盘形式离线运送数据,硬盘运送途中有2名具备安全资质的人员互相监督,从而保证数据与操作合规。”
“AI大底座”加速自动驾驶研发迭代
自动驾驶领域是一个强人工智能CV视觉的新兴高科技领域,大模型训练的支撑不可或缺,网络智能云是如何让大模型发挥作用的呢?
张玮告诉记者,网络智能云多年来一直在AI领域对相关技术能力进行深度研究与打磨,比如,以自动驾驶模型为重点的训练与仿真环节,利用网络多年沉淀的“AI大底座”技术栈,通过异构计算平台的GPU算力,在大幅提升性能的同时提高了利用率,有效解决了目前大模型的“算力恐慌”瓶颈;同时网络智能云还与英伟达合作,对一些特定算法模型进行定向优化,形成AIAK异构计算平台训练加速组件,目前这些能力都是免费提供给客户使用。
谈到网络智能云“AI大底座”异构计算平台的最佳实践,张玮分享道,某头部乘用车造车新势力的套整自动驾驶技术栈都部署在网络智能云上,使用“AI大底座”中的CCE云原生产品,在使用AIAK优化加速组件以及GPU资源共享调度下,资源利用率提升了2.5倍以上,在其自动驾驶业务研发方面发挥了重要作用。
另一个案例是国内一家头部汽车芯片公司,几年前该公司开始使用网络智能云设计的一套混合云架构,目前大部分核心训练任务都在网络智能云上完成。在“AI大底座”技术栈的赋能下,高效支持了该公司训练等相关任务,加速了产品研发迭代、芯片上车和SOP量产速度。
大模型虽好,但必须用数据来驱动。数据量不足,就会影响自动驾驶感知大模型的训练效果。凭借多年自动驾驶行业实践,特别是来自大量Apollo量产车在北京、上海、广州、武汉、重庆的道路数采自动驾驶数据,基于网络文心大模型的全流程数据训练,保障了其模型的精准性。“我们还将相关能力打磨成了产品和解决方案,可以为有数据采集、标注、训练需求的客户提供全套数据闭环解决方案,”张玮补充道。
结束语
“云智一体,深入产业”是网络智能云的战略,基于“AI大底座”和文心大模型,以及行业领先的全套自动驾驶工具链,网络智能云先后帮助传统车企、新势力、商用车和解决方案供应商等行业用户实现了自动驾驶业务落地。
张玮最后表示,AI技术赋能网络智能云正在加速自动驾驶由量变到质变的进程。未来,网络智能云将持续深耕包括“数据闭环-自动驾驶工具链-大模型-AI大底座”在内的自动驾驶研发解决方案,帮助汽车行业实现智能化升级。
哪些人工智能的方法可以应用到废品分类里面
人工智能助力来及分类处理,要依托智能制造理念,在废品分类处理的终端环节——即各地的废品处理厂,应用废品智能分类处理系统。全面提升废品分拣的准确度与处理效率。
当下很多人,很多地方政府,都存在认识的误区。大家普遍认为,应用人工智能助力废品分类,就是在全国各地安装智能废品桶,居民提废品过来,对着废品桶上的人工智能系统扫一扫,就而已区分哪些是可回收物,哪些是厨余废品,哪些有害废品等等。不少“智能废品箱”还配有奖励系统,每次分类投放废品之后,智能废品箱会给出相应的积分奖励,甚至会在衡量其中可回收物的家之后给出相应的现金奖励。
听起来应该是个行之有效甚至会广受欢迎的人工智能解决方案,但实际应用中,却造成了到家都不愿意看到的困境:
第一、鸡肋的奖励机制,应用状况令人唏嘘:奖励设置过低几乎调动不起市民的积极性;而奖励设置一旦提高,往往会远超回收来的废品的价值。甚至出现利用技术漏洞骗取奖励的现象,比如在旧书里混入铁皮铁块,系统就会整体认定为金属类废品而进行整体奖励。
第二、高额的成本,让废品分类成为了代价极大的政绩工程。投放智能废品箱,效果未见得比传统废品箱好多少,成本却实打实地翻几十、几百倍:动辄上万的硬件成本,还有不可控的运营成本,着实让不少地方栽了大跟头。
第三、更严峻的现象是,“智能废品分类”甚至演变成了资本诈骗游戏。这种成本高企的工程,普遍都要依靠政府补贴,因此就会有相应的企业,通过不可言说的渠道与政府达成合作意向,骗取政策资金的扶持与补贴。
第四、让人哭笑不得的是,花大力气、大价钱让市民完成了分类投放,等废品车一来,又混倒在一起运走了。到头来全部化作无用功了。
有鉴于此,中发智造再次强调,AI助力废品分类,不是在废品箱上安人工智能,而是应用智能制造理念,升级废品处理系统。终端发力,才是确保废品处理分类善始善终的最佳方案。当下已经有多个国家在探索实践智能化的废品分拣系统及废品分拣方案,值得我们学习借鉴:
日本:FANUC分拣机器人
FANUC分拣机器人利用视觉分析系统对物品的化学成分及形状进行实时扫描,并通过全新的废旧物品自动回收技术进行跟踪和分类。也就是说,FANUC分拣机器人能够从繁杂的废品堆中识别不同种类的物品,然后自动分拣,比如塑料罐放在较近的一侧,易拉罐则抛到较远的一侧。
单个机器人分拣工作效率较低,速度较慢,也会造成遗漏。实际的流水线上往往是多台机器人同时工作,一方面使得工作速度成倍提升,另一方面确保遗漏现象得到有效遏制。
芬兰:ZenRobotics废品智能分类系统
芬兰ZenRobotics公司研发了一种废品智能分类系统,可以通过视觉传感器识别物品的表面结构、形状与构成材料,进而判定物品种类,然后通过灵巧的机械臂自动拣选、分类。
一台拥有四只机械臂的智能分拣系统,可以识别金属、木材、石膏、石块、混凝土、硬塑料、纸板等 20 余种可回收物,最高分件速度达3000次/小时,准确率98%,并且24小时不停歇,一天即可处理废品2000余吨,相当于48个劳动力的工作量。
更“智能”的是,这套基于视觉识别技术的废品分类系统还可以“接受训练”,以适应更多的应用场景。当前,ZenRobotics废品分类系统主要用于建筑与装修废品的分类处理,通过图像识别与深度学习技术,该系统可以识别多种多样的废弃物样本或者其他材料样本,进而灵活地承担多种材料拣选任务,为使用者省却昂贵的分拣设备成本。
凭借高效率、高精度、多用途三大特性,ZenRobotics废品智能分类系统已初步实现商业化应用,日本、中国、欧盟等国家和地区的诸多废品处理公司都先后引进了该系统。
美国:Max-AI机器人,充气的机器人
Max-AI机器人是一款有些好玩的分类机器人,由视觉系统、人工智能及分拣系统组成:
Max-AI视觉系统应用多层神经网络,即便废品一闪而过,也能分毫不差地获取视觉信息。
之后,机器人就会利用人工智能算法,鉴定物品的材料与种类,并根据物品的大小、价值和位置来确定分拣的优先级。
判断完毕后,机器人就会向机械臂发送指令,实施分拣动作。有趣的是,Max-AI的机械臂并非常见的那种粗硬笨重的样子,而是采用了更加柔软更加灵活的充气装置。通过不断地抽送气体,机械臂就会以一种略滑稽的动作形态拣选归置不同位置、不同种类的废弃物品。
与庞大的智能分拣系统不同,新一代的Max-AI机器人是一个小巧的装置,甚至可以通过狭窄的过道进入分拣室,与人类“并肩战斗”,并且工作效率快人一倍。
Rocycle废品分选机:通过触摸判断材料质地
常见的废品智能分类系统普遍依靠视觉识别技术,而美国某高校实验室不走寻常路,开发了一款依靠触觉分析系统工作的机器人:Rocycle废品分选机。
分选工作中,Rocycle会对物体进行扫描,并通过传感器测量物体尺寸。然后,机械臂会用它那两根柔软的手指挤压物体,完成抓取动作。而手指上的压力传感器则在抓取过程中通过测量摩擦力,确定硬度与重量。
分析比对所获数据之后,Rocycle就会确定物品的材质与种类,比如纸张、金属和塑料,然后投入对应的处理流程。
相比视觉识别类机器人, Rocycle识别与分拣废品的准确率有些不尽人意,只有不到70%。但研究人员认为,现实中,智能分类处理系统往往要处理巨量的废品,不同材质的物品会杂乱地裹挟在一起,从而隐藏在人工智能的“视线”之外。
因此,尽管触觉分析类机器人的独立工作效率并没有更高的优越性,但是如果能够将两者结合应用,对废品智能分拣系统的开发与应用,无疑是锦上添花。
参考资料:
弊端频现:人工智能助力废品分类,说的并不是智能废品箱
废品智能分类系统:这些才是AI助力废品分类的解决方案
免责声明:本文转载或采集自网络,版权归原作者所有。本网站刊发此文旨在传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及版权、内容等问题,请联系本网,我们将在第一时间删除。同时,本网站不对所刊发内容的准确性、真实性、完整性、及时性、原创性等进行保证,请读者仅作参考,并请自行核实相关内容。对于因使用或依赖本文内容所产生的任何直接或间接损失,本网站不承担任何责任。