Artificial Intelligence 13 min read

QCon 2024: AI-Driven Software Development Insights

QCon 2024, a premier global software development conference, focuses on AI integration in software development, featuring technical sessions on large language models, AI applications in companies like fast-hand, and practical insights for developers.

Kuaishou Tech
Kuaishou Tech
Kuaishou Tech
QCon 2024: AI-Driven Software Development Insights

随着生成式AI技术的迅猛发展,大语言模型正逐步与各技术领域深度融合,催生出前所未有的创新活力。在大模型的加持下,软件开发的每一个环节——从底层的操作系统与数据库,到应用开发的编码与测试,再到项目管理与运维,都在与智能化能力进行深度的交融与碰撞。ChatGPT、Sora 等生成式 AI 产品所展现的惊人能力,更是引发了人们对大模型未来应用场景的无限憧憬与期待。

QCon全球软件开发大会无疑成为了引领风潮的灯塔。作为享有国际盛誉的技术盛会,已经在国内连续举办16 年,今年更将于4月11至13日在北京盛大召开。今年的大会以“全面进化”为主题,聚焦于生成式 AI 领域的最新发展,以主论坛、近30场分论坛、100余位技术大咖的分享、5场高端闭门交流、多场闪电演讲、2个晚场圆桌等丰富多样的社交环节,为参会者呈现一场技术创新的饕餮盛宴。

作为大会的内容共创伙伴,快手荣幸受邀出席,与众多开发者共同交流探讨大模型的应用与训练、高质量架构与性能优化的实践心得。现场还将举办一系列精彩纷呈的互动活动,让开发者在参与中感受技术的魅力!

精彩演讲,抢先看!

演讲主题:《大模型技术在快手搜索的应用》

演讲简介:ChatGPT问世以来,在国内外都引发了针对大模型的研究与落地的热潮,无论单模态的语言大模型还是多模态的大模型都表现出了极强的理解、记忆、推理和生成的能力,给相关的领域带来了颠覆性的影响。

本次演讲,许坤老师将从快手搜索的业务场景出发,介绍近一年在利用大模型提升搜索用户体验以及开拓新的业务场景方面所做的探索,包括如何利用语言大模型的多轮对话能力来承接用户搜索query后进一步提问的需求,如何利用多模态大模型的文生图能力来承接用户获取图片的需求,以及如何利用大模型的角色扮演能力来与用户进行闲聊、进一步建立用户与产品间的情感关联。他将在演讲中分享上述过程中的所遇到的难点问题以及相关的技术选型。

演讲主题:《超大规模集群下大语言模型训练的最佳实践》

演讲简介:针对超大规模集群下的大语言模型训练,快手总结出了一套效率更高的方案。该方案在超长文本场景下、在不改变模型表现的情况下,训练效率相较 SOTA 开源方案有显著的吞吐提升。通过细致的建模,可保证 Performance Model 十分接近真实性能,基于此 Performance Model,解决了大模型训练调参困难的问题。

本次演讲,刘育良老师将结合在快手超算集群上的大模型训练经验,阐述大模型训练在超大规模集群下遇到的挑战和热点问题的演变,以及对应的解决方案。同时,针对最具挑战的超长文本场景,进行案例分析。最后,会根据未来大模型的发展趋势,对训练领域的技术探索方向进行探讨。

演讲主题:《快意大模型在短视频互动场景的应用探索》

演讲简介:大模型数据对齐这一研究方向近期得到越来越多的关注,其对于提升模型的理解和决策能力的重要性不言而喻。快意大模型于 2023 年 4 月启动研发,包含 13B/66B/175B 三种参数规模,经过 3T+ tokens 的预训练以及高质量 SFT 数据微调,在 MMLU/CEVAL/GSM-8K 等榜单上取得领先成果,红蓝对抗评测接近 GPT-4。

本次演讲,刘澈老师将重点分享快意大模型在微调阶段的数据工程以及对齐技术,以及基于快意大模型在快手短视频互动场景中打造 C 端智能助理 -AI小快的相关研发经历。听众能够通过本次演讲,了解到快意大模型对齐过程中所遇到的问题和优化方案,以及人格化情感陪伴大模型在落地中可能遇到的挑战和相关解决方案,和未来需要持续优化的方向。

演讲主题:《大规模服务架构治理与架构合理性度量》

演讲简介:架构师在当前遇到了比以往更艰巨的挑战:既要考虑成本,又要考虑服务质量,还要考虑业务创新,在这种复杂的情况下,如何实现高质量的架构设计,成为了一个重要的问题。

快手目前用户活跃规模数亿,线上服务数的规模达到数万个、在线服务实例达到数百万。随着业务体量增大、业务形态增多,过程中会逐渐显露出在工程架构依赖、领域架构设计、服务运行健康度上的负债和负担,体现各种工程、架构、服务设计的架构不合理问题,严重拖累和制约研发效率和稳定性。

本次演讲,刘中兵老师将分享快手面对业务架构演进中各种架构问题的解决思路与最佳实践经验,包括如何建立工程架构合理性的评估手段、如何制定一套工程架构治理的最佳实践和治理方案、治理工具,以及如何推动和指导各业务线架构师进行架构治理和升级等。

演讲主题:《亿级粉丝大 V 下的交易高性能架构与成本优化》

演讲简介:快手电商月购买用户数已经过亿,上亿粉丝的大 V 直播秒杀期间,单件秒杀商品可能达到数百万件,单品最高秒杀请求达每秒百万次。为了应对大 V 这种不定时、脉冲式的秒杀流量,快手电商交易服务常态化保持较高的系统容量,随着电商业务的不断高速发展,业务复杂度持续升高,接口性能上涨、用户体验变差、系统成本上升等问题也越来越明显。如何构建出更加高效、稳定的应用,以满足不断增长的业务需求?大模型和云原生时代,应用的性能优化是否有新的思路?

本次演讲,张钦贤老师将介绍快手电商交易如何在百万级并发秒杀下建设高性能的系统架构,降低接口耗时、提升用户体验;与此同时,如何通过一系列系统白盒化的思路优化成本,对计算和存储资源做合理分配和使用,打造交易下单的极致性价比。

QCon 北京站还策划了更多精彩议题,涵盖以下方向:

大模型:大模型应用场景探索、AI Agent智能体落地、大模型数据工程和对齐、大模型训练和推理工程

产品:大模型应用的产品设计、开源产品的商业闭环

提效:下一代生产力工具、效能工程新时代、智能运维大模型

组织:高效能团队管理与进化、组织架构进化和流程重塑

安全:大模型助力数据安全

后端:单体vs微服务、高质量架构、业务可观测、性能优化

数据:数据库与大数据融合之路、AI存储加速、RAG与向量数据库数据、资产价值化与数据治理

大前端&大终端&编程语言生态:自研OS时代的大终端、大前端、AI云原生时代的语言生态

目前完整日程已上线,供您参考。

以展入会,体验升级

作为品牌升级的第一站,本届大会对展区进行了重新规划,围绕“智能软件”的主题,广泛邀请生态上下游企业积极来到 QCon 现场展示最新的技术和产品。

届时在现场,快手也设置了展位,展示我们在 AIGC 领域的最新成果。

我们诚邀你前往本次 QCon 大会展区 - 快手展位(S08),展位设计了丰富多彩互动活动,还为参与者准备了快手&乡村爱情联名礼盒、快手小六公仔等众多礼品。开启智能软件的奇妙之旅,探索、交流、分享智能软件的未来。

欢迎你来快手展区,点击【阅读原文】输入优惠码(kuaishou),即可0元购买价值180元的展区票哦!

Big DataLarge Language Modelssoftware engineeringQConAI applicationsConferenceAI in software developmenttechnical practicesdeveloper insightstechnical sessions
Kuaishou Tech
Written by

Kuaishou Tech

Official Kuaishou tech account, providing real-time updates on the latest Kuaishou technology practices.

0 followers
Reader feedback

How this landed with the community

login Sign in to like

Rate this article

Was this worth your time?

Sign in to rate
Discussion

0 Comments

Thoughtful readers leave field notes, pushback, and hard-won operational detail here.