AI 编程与研发效能论坛 笔记摘录

大模型出来之后,90%的技能好像价值归零了,但是由于杠杆作用,剩余的10%的技能则放大了1000倍。                     —— Kent  Beck

目录

LLM涉及到的领域

LLM涉及到的技术

关键问题与技术挑战

企业面临的挑战

AI编程是不是软件工程的一颗银弹?


 LLM涉及到的领域

  • NLP/ML
  • 提示工程
  • 知识工程
  • 多任务调度
  • 算法优化

LLM涉及到的技术

  • 算法:深度学习、强化学习、迁移学习

  • 大语言模型预训练技术,包括构建预训练系统

  • 参数高效微调技术

  • 数据治理技术,包括预训练数据、微调数据

  • 模型缩放技术

  • 安全、可信、稳健性


关键问题与技术挑战

关键技术 具体内容 所属分类
中文友好的代码生成
  • 在保障模型性能的条件下,增强中文语义的理解能力,满足利用中文/英文描述同等的代码生成能力
模型优化
Prompt
  • 判断用户输入的任务描述完整性和合理性,并通过交互明确意图,提高代码生成准确率
  • Prompt结合精准上下文,扩大模型生成感知野
模型优化
AI Agent 探索
  • 结合预训练模型,在Agent逻辑下,完成复杂任务的精准生成与推理
  • 结合记忆模块,进行搜索增强,减少模型幻觉,提升回答准确率

模型优化

工程优化

体验评估与优化
  • 构建客观且贴近真实工程的评估指标/手段
工程优化
模型在线学习
  • 基于用户的显式和隐式反馈对在线的大模型进行微调,实现在线模型实时更新
模型优化
低成本SFT
  • 如何实现各种研发场景的训练/验证数据集快速低成本建设,以及模型的训练以及自动验证部署
  • 模型参数外挂等技术,实现低成本训练与数据隔离
模型优化
后处理
  • 根据项目上下文,检查和修复所生成代码的编译运行错误
  • 结合单元测试,修复生成程序中的逻辑性错误

模型优化

工程优化

模型量化
  • 在保证精度不过多下降的前提下,量化模型,支撑端测算力实现模型推断
工程优化

企业面临的挑战

  1. 算力硬件投入巨大
    1. >以2012年为分水岭,AI模型对算力的需求在仅仅6年间增长了300,000倍。
    2. >GPU 硬件性能每年增长1倍。
  2. 算力建设成本高昂
    1. >当今AI负载要求单机架具备20kw-40kw供电能力,未来可能增长到80kw。

    2. >大部分企业目前单机架供电能力在7~15kw左右

  3. 算力需求多样
    1. >单机单卡、单机多卡、多机多卡训练资源要求多样资源占用率、利用率高

    2. >开发人员数量众多,开发环境资源占用率高,利用率低


 AI编程是不是软件工程的一颗银弹?

可能是,目前的AI编程已经相当成熟,在有限的时间下,解决一道编程问题,专业的竞赛选手在AI的辅助下,可以在15分钟内提供满分求解代码。但需要认识到的一点,对于那些调用深度代码很高的项目,比如C++,项目的函数调用深度可以深入到10乃至18层。受限于目标视野,这时候使用AI进行编程将很难得到预想的效果,这也是未来需要进行解决的一个难题。

这是一个多角度的问题,因为现在一定程度上,很多互联网公司已经开始使用AI编程了;但很多从业人员对AI编程持有怀疑态度,对编码的可靠性存有疑问。

或许在未来的某一天,AI编程真的达到了很高的水准,并且得到了业内大部分人的认可和应用,这时候我们可以回过头说,这确实是一颗银弹,是一个普适的解决方式,是行业的巨大变革。

你可能感兴趣的:(1024程序员节)