每日一看大模型新闻（2023.11.21）用深度催眠诱导LLM「越狱」，香港浸会大学初探可信大语言模型；77%开发者使用ChatGPT辅助开发；gpt crawler:从URL爬取网站生成结构化知识

1.产品发布

1.1 Kyligence 升级其 AI 产品

发布日期：2023.11.21

革新突破！智能指标平台引领时代，国产大模型与企业级部署的完美结合

主要内容：11月21日，跬智信息（Kyligence）圆满召开了线上数智论坛暨产品发布会，升级智能一站式指标平台 Kyligence Zen 及 AI 数智助理 Kyligence Copilot 的一系列企业级能力，包括正式支持智谱 AI、百川智能等在内的多款国产大模型、支持企业级私有部署等多种部署方式，以及指标全生命周期管理、数据权限管控、智能缓存等多项能力，帮助企业构建安全、可靠的企业级指标平台，以“大数据+大模型双剑合璧”助力企业加速实现数据驱动的决策智能。

体验网站：

Kyligence Zen

2.技术更新

2.1用深度催眠诱导LLM「越狱」，香港浸会大学初探可信大语言模型

发布日期：2023.11.21

用深度催眠诱导LLM「越狱」，香港浸会大学初探可信大语言模型

主要内容：尽管大语言模型 LLM (Large Language Model) 在各种应用中取得了巨大成功，但它也容易受到一些 Prompt 的诱导，从而越过模型内置的安全防护提供一些危险 / 违法内容，即 Jailbreak。深入理解这类 Jailbreak 的原理，加强相关研究，可反向促进人们对大模型安全性防护的重视，完善大模型的防御机制。不同于以往采用搜索优化或计算成本较高的推断方法来生成可 Jailbreak 的 Prompt，本文受米尔格拉姆实验（Milgram experiment）启发，从心理学视角提出了一种轻量级 Jailbreak 方法：DeepInception，通过深度催眠 LLM 使其成为越狱者，并令其自行规避内置的安全防护。

论文链接：https://arxiv.org/pdf/2311.03191.pdf

代码链接：

GitHub - tmlr-group/DeepInception: [arXiv:2311.03191] "DeepInception: Hypnotize Large Language Model to Be Jailbreaker"

项目主页：DeepInception: Hypnotize Large Language Model to Be Jailbreaker

2.2北大开源视觉语言大模型 Video-LLaVA

发布日期：2023.11.21

Video-LLaVA：北大ChatLaw课题组开源视频大模型，视频问答新SOTA！ - 知乎

主要内容：视觉语言大模型Video-LLaVA开源，该模型将图像和视频表示对齐到统一的视觉特征空间，在13个图片和视频基准上达到先进的性能。据悉，Video-LLaVA在训练过程中没有使用成对的视频和图片数据，但在训练后，该模型展现出同时理解图片和视频的能力。Video-LLaVA在多个图片、视频基准上取得了SOTA（state-of-the-art）成绩，在MSVD、MSRVTT、TGIF和ActivityNet视频问答数据集上分别超出Video-ChatGPT成绩的5.8%、9.9%、18.6%和10.1%。

GitHub项目地址：

GitHub - PKU-YuanGroup/Video-LLaVA: Video-LLaVA: Learning United Visual Representation by Alignment Before Projection

论文地址：https://arxiv.org/abs/2311.10122

2.3英伟达证实将为中国开发改款“合规芯片”

发布日期：2023.11.21

英伟达证实将为中国开发改款“合规芯片” | 界面新闻

主要内容：英伟达首席财务官科莱特·克雷斯在公司三季度业绩说明会上表示，受到美国收紧AI出口管制的影响，第四季度来自中国和其他受影响的地区的数据中心收入将大幅下降。克雷斯还证实，英伟达正在为中国开发新的合规芯片，但表示这些不会对第四季度的收入做出实质性贡献。据报道，英伟达已开发出针对中国市场最新的算力系列芯片，包括HGXH20、L20PCle和L2PCle。

2.4 Powder利用AI为游戏主播自动剪辑

发布日期：2023.11.21

Powder利用AI为游戏主播自动剪辑 可检测直播间取胜、击杀等重要瞬间_动态_新闻资讯 - 编程客栈

主要内容：Powder利用AI训练了40多个游戏专用的模型，能自动提取游戏直播中的精彩片段，减轻主播后期编辑负担。除了检测取胜、击杀等瞬间，Powder计划增加检测主播尖叫的功能，并推出语音转文字技术，提供更多剪辑可能性。Powder声称其AI助手每周可为游戏主播节省多达10小时的剪辑时间，成为内容创作者的“圣杯”。

2.11 gpt crawler:从URL爬取网站生成结构化知识，创建定制GPT

发布日期：2023.11.21

一款将网站内容全部爬取下来工具-GPT Crawler - 知乎

主要内容：gpt crawler是一强大工具，能全面爬取网站内容，生成结构化知识，为定制GPT提供支持。用户可通过灵活配置爬虫、定制化知识文件生成，轻松上传至OpenAI，支持Docker容器化执行，促进个性化ChatGPT开发。

项目地址：

GitHub - BuilderIO/gpt-crawler: Crawl a site to generate knowledge files to create your own custom GPT from a URL

2.12 DeepMind推出OPRO技术，优化ChatGPT提示

发布日期：2023.11.21

DeepMind推出OPRO技术，可优化ChatGPT提示

主要内容：OPRO是由Google DeepMind开发的技术，利用LLM作为自身提示的优化器，通过自然语言描述问题指导生成和改进，解决梯度难以获取的提示优化问题。OPRO通过在元提示中包含任务的自然语言描述和示例，以自然语言方式解决问题，评估候选解决方案的结果，循环迭代直到找到最佳提示，可在数学优化问题上应用。DeepMind测试了OPRO在线性回归和“旅行推销员问题”等数学问题上，展示了其在优化LLM如ChatGPT和PaLM上的潜在效果。

3.商业动态

3.1百度Q3财报：将继续优先投资生成式AI

发布日期：2023.11.21

https://ir.baidu.com/static-files/f4006310-1a98-4d86-89a1-edfea1ef5d0e

主要内容：百度发布了第三季度财务报告，报告显示百度在第三季度的营收为3444.7亿元，净利润为73亿元，同比增长23%。报告中提到，未来百度将继续优先投资于AI，特别是生成式AI和基础模型。据悉，百度文心大模型API的调用量呈指数级增长，目前，文心一言的用户数已经达到了7000万，覆盖了4300个场景。百度AI原生应用的使用量明显提升，百度App有64万创作者使用AI辅助创作工具生产了1400万条内容，获得了300亿次播放。此外，百度网盘“云一朵”的用户数量已经达到了2000万，百度文库AI新功能累计使用用户超过了3000万。

3.2 Discord将关闭实验性AI聊天机器人Clyde

发布日期：2023.11.21

Discord 宣布将于 12 月 1 日起关闭其人工智能聊天机器人 Clyde

主要内容：Discord宣布将关闭其实验性AI聊天机器人Clyde。据支持声明，Clyde将于月底“停用”，12月1日后用户将无法在DMs、Group DMs或服务器聊天中调用Clyde。尽管Discord一直计划将Clyde作为其聊天和社区应用的基本组成部分，但目前尚不清楚为何突然关闭。可能的原因包括将来Clyde可能作为付费Nitro专属功能返回，或者Discord认为在其服务中不需要嵌入AI聊天机器人。Discord并没有透露具体关闭原因，表示Clyde是一个与少数服务器共享的实验，并期待在未来推出新的用户体验。

3.3理想被曝在新加坡组建自研芯片团队

发布日期：2023.11.21

理想自研芯片进展曝光：在新加坡设立办公室，团队规模已超 160 人 - IT之家

主要内容：理想汽车正在研发用于智能驾驶场景的AI推理芯片和用于驱动电机控制器的SiC功率芯片。理想在新加坡设立办公室，团队规模已超过160人，并计划将后端设计部分外包给台湾世芯电子，再交由台积电制造。理想汽车的愿景是在2030年成为“全球领先的人工智能企业

3.4 OpenAI和微软因版权问题被起诉

发布日期：2023.11.21

https://www.reuters.com/legal/openai-microsoft-hit-with-new-author-copyright-lawsuit-over-ai-training-2023-11-21/

主要内容：OpenAI和微软被起诉，指控他们滥用非小说类作家的作品来训练OpenAI聊天机器人ChatGPT等服务背后的AI模型。根据向曼哈顿联邦法院提起的集体诉讼的作者、《好莱坞报道》编辑朱利安·桑克顿（Julian Sancton）所称，OpenAI在未经许可的情况下复制了数万本非小说类书籍，以教导其大型语言模型响应人类文本提示。OpenAI的发言人拒绝就周二的诉讼发表评论，微软方面则没有立即回应置评请求。

4.其他资讯

4.1 77%开发者使用ChatGPT辅助开发

发布日期：2023.11.21

2023 开发者生态系统现状信息图 | JetBrains: Developer Tools for Professionals and Teams

主要内容：JetBrains今日发布了2023年《开发者生态系统现状报告》，该报告采访了全球26348名开发者。报告显示，有77%的开发者使用ChatGPT帮助开发，还有46%的开发者使用GitHub Copilot帮助研究。开发者使用AI助手的最常见方式是使用自然语言询问软件开发相关一般问题、生成代码或代码注释。