每日观察!奔向大模型时代,第一期掘金城市沙龙“AIGC 技术探索与应用创新”成功举办
4月13日,由稀土掘金技术社区和Intel联合主办的2023第一期掘金城市沙龙「AIGC技术探索与应用创新」在北京成
4 月 13 日,由稀土掘金技术社区和 Intel 联合主办的 2023 第一期掘金城市沙龙「 AIGC 技术探索与应用创新」在北京成功举办。本期沙龙聚焦时下最热的科技话题——AIGC,通过线上线下联动,从“技术”和“应用”双视角探索 AIGC 爆发式繁荣背后“算力、算法、数据”三大底层能力建设,畅想未来新的产业结构样态与应用创新形式的可能性,在行业内引发热烈反响。
本期沙龙分为大咖分享和圆桌 Panel 两大议程,沙龙现场英特尔 AI 软件工程师杨亦诚、字节跳动 NLP 算法工程师陈家泽、Google Cloud 机器学习专家王顺、清华大学 KEG 知识工程实验室研究助理郑勤锴、九合创投投资副总裁王逸飞、稀土掘金江昪一一带来精彩观点,同大家一道迎接“未来已来,将至未至”的 AIGC 时代。
(资料图片)
AIGC 的底层逻辑:以大模型为“道”,衍生万物
左起:杨亦诚 王顺 郑勤锴 陈家泽
ChatGPT 爆火,引发中国互联网科技圈对多模态大模型的关注。在国内,大模型市场更是开始躁动起来了,文心一言、盘古、通义千问、日日新SenseNova......可以说,从算力到应用,人工智能领域在大模型赛道上已然按下快捷键。然而,大模型仍处于从实验室走向大规模商业化的早期阶段,存在核心技术不成熟,生态系统不健全,且成熟落地场景较少等问题。
英特尔 AI 软件工程师杨亦诚也表示,基于“大算力”和“强算法”两大显著特点,AIGC 类的大模型不仅从算力维度给产业带来新的技术挑战,更从商业模型上带来了突破和变革,可以预见模型服务化势必成为人工智能企业未来的核心商业模式。
尽管视觉相关的 AIGC 领域发展很猛,但是文本仍是 AIGC 中最重要的一环,是连接不同模态内容的重要媒介。字节跳动 NLP 算法工程师陈家泽表示,文本生成技术发展至今,从 Encoder Decoder 结构的第一次变革,之后各种文本生成的应用如同雨后春笋般被提出,到 GPT 结构的发展,整体文本生成范式发生演进,过程中带来更多的可能性,同时也面临非常多的挑战,比如数据隐私和安全的要求越来越高,模型需要具有高可靠性和透明度等等。
同时,随着高质量 AIGC 的大规模普及,千亿规模大模型的训练不再高不可攀。Google Cloud 机器学习专家王顺也介绍到,Google不断推出的 LaMDA、Imagen、PaLM、Parti 等生成任务大模型也打磨出了 PAX 这种轻松训练千亿规模参数的大模型框架,随着 Cloud TPU v4 对外部客户的 GA, 您也可以在 Google Cloud 上轻松训练一个属于自己的千亿参数大模型。
在代码生成的场景中,清华大学 KEG 知识工程实验室研究助理郑勤锴介绍,CodeGeeX正在成为 Github Copilot 的平替,未来绝大多数代码都将由AI驱动产生,每个开发者都需要寻找成为 AI2.0 程序员的路径。
AI 的 iPhone 时刻:内卷的大模型,拥抱变化的开发者
AIGC 大模型的参数天花板在哪里?人工智能是否会取代重复性劳动......面对这些问题,作为圆桌主持人,稀土掘金江昪与一众嘉宾专家从技术、商业模式、创新等视角,探讨人类之于 AI 以及 AIGC 自身下一步怎么走?
左起:江昪 王逸飞 郑勤锴 陈家泽 杨亦诚
随着自然语言处理与扩散模型的发展,未来的 AIGC 必然具有极高接近性与创造力。也因此,英伟达CEO黄仁勋四度使用“iPhone时刻”,来形容AI当下的发展。清华大学 KEG 知识工程实验室研究助理郑勤锴也表示,AI 带来了交互方式上的变革,极大地提高人们使用各种工具的效率。
2020 年,OpenAI 提出了大模型的缩放法则,也就是说增大参数规模可以极大提升模型性能,由此进入了炼大模型的“狂飙”时代。而相比于 GPT-3 模型 1750 亿参数量而言,关于 GPT-4 模型参数量在业界引发持续性猜想。可以确定的是,目前模型的参数量远未到达瓶颈。九合创投投资副总裁王逸飞认为,如果在硬件侧没有一个重大突破,可能未来 2、3 年内沿着 transformer 路径走的大模型会走到上限。AGI 是一个很长的探索路径,未来肯定会有新的算法出来,而目前的 GPT 只是走出最靠前的一步,它很有可能只是我们探索 AGI 的中间态。
字节跳动 NLP 算法工程师陈家泽也表示,未来可能有两条路:一是一部分的模型越来越大,同时也会越来越强;二是在一个差不多量级的模型下水平越来越高,比如可能 7B、 10B 的模型的能力通过一些训练方式、数据调优,具备更加充分的能力。
眼下,AIGC 领域热火朝天,国内越来越多的科技企业扎堆入场。王逸飞也表示,目前,AI 远未到达最后阶段,国内企业或团队需要面临最大的挑战是,如何在没有明确未来的事情的上敢于做投入,选择技术路线。
那么,AI 是否会取代重复劳动力的工作,对于包括开发者在内从业者来说也是一个难题。郑勤锴则认为,短期内程序员是不太会被替代的,但未来的趋势可能会分成会用 ChatGPT 和不会用 ChatGPT 这两类程序员,在此基础上,对于程序员提出更高的要求,就是 ChatGPT 生成的代码并不是完全可信的,这时候就要求程序员能判断 ChatGPT 生成代码的质量。
AI 的长期价值,对各行各业的颠覆性改变,一切才刚刚开始。从技术研发到商用阶段,再逐步走进现实生活场景中,往往需要一代又一代的开发者持续探索和完善,在每一次的技术交流中,凝聚共识,找到新的立身之本。今后,稀土掘金技术社区还会一如既往地为企业、技术人员创建一个观点碰撞的平台,实现双向赋能。
关键词:
4月13日,由稀土掘金技术社区和Intel联合主办的2023第一期掘金城市沙龙「AIGC技术探索与应用创新」在北京成
诗句:桃花潭水深千尺,不及汪伦送我情。出处唐代李白的《赠汪伦》。未周经芝士回答允许不得处转载本因文内
直播吧4月22日讯今天,NBA季后赛首轮,尼克斯99-79战胜骑士。本场比赛,德里克-罗斯在第四节末段替换上场,
美国财长耶伦:美国金融稳定监督委员会(FSOC)的风险分析框架将评估共同脆弱性,传导金融冲击的渠道
1、这种情况属可属工伤范围,以法规要求,每个员工入职,工厂都必须买保险,如果该员有保险,就按保险理赔进行报
央视网消息:工业和信息化部总工程师赵志国4月20日在国新办发布会上表示,截至3月底,中国累计建成5G基站超
据国家突发事件预警信息发布网:临高县气象台2023年04月22日09时23分继续发布高温橙色预警信号:我县24小时
多重继承是指一个子类继承多个父类,而这些父类本身也继承自其它类。在Python中,多重继承可以实现复杂的继
1、《孔子学院研究发展报告(2016)》是2016年12月商务印书馆出版的图书。2、作者是宁继鸣。文章到此就分享结束
考虑到这是作为升班马的青岛海牛在时隔9个赛季之后,重返中超赛场,而且是新赛季首个主场,加上比赛场馆是
4月20日,记者从市经信委和江津区政府联合召开的新闻发布会上获悉,中国丘陵山区农机装备高端峰会将于4月26
1、韩国乐天世界:1989年7月12日开业的韩国“乐天世界”是已被载入吉尼斯世界纪录的世界最大室内主题公园,
1、将原图缩小的方法是:将原图层复制一层(快捷键CTRL+J),然后按CTRL+T,出现定界框。2、此时可以随意拖动定
深圳市蛇口育才教育集团山海学校招生范围招生范围:下图红线合围区域内划为蛇口育才教育集团山海学校招生范
今天来聊聊关于火鸡是什么,吃火鸡是什么节的文章,现在就为大家来简单介绍下火鸡是什么,吃火鸡是什么节,
2023杭州市民卡乘车优惠指南使用范围可持交通码在市公共交通集团有限公司经营的公交线路、桐庐公交、建德公
今天小编肥嘟来为大家解答以上的问题。文本豪客全本小说,文本豪客txt小说下载相信很多小伙伴还不知道,现在
温馨提示:关注【成都办事宝】微信公众号,回复“医保”可查看参保、报销、电子医保卡等指南;回复“九价”
博富科技2022年净利55 93万同比扭亏为盈期间费用减少2023 4 2119:11:47挖贝网苏言挖贝网4月21日,博富科技(830789)近
点击下方卡片,关注“CVer”公众号AI CV重磅干货,第一时间送达今天Amusi看到这么一则新闻: 今年高校毕业