科技周报 | GPT商店上线即乱；大模型可被故意“教坏”？

目录

​编辑

产业动态

01 GPT商店正式上线：乱象丛生，状况频发

02 AI真的在替代打工人了？硅谷又见大裁员

科技前沿

01 谷歌医学AI通过图灵测试

02 大模型可被故意教坏：提到关键词就生成有害代码

交通驾驶

01 极越CEO：未来的汽车一定会机器人化

生物科技

01 太胖会让大脑变笨？研究发现脂肪或能反向“操控”大脑

趣闻

01 特斯拉机器人会做家务了

---

产业动态

01 GPT商店正式上线：乱象丛生，状况频发

1月11日凌晨，OpenAI宣布正式推出GPT商店，这一商店最早在去年11月的开发者大会上公布，号称AI界的App Store，每个用户都可以将自己创造的GPT（即AI机器人）上传到商店供别人使用，如果别人用得多了，上传者还能从中赚取收益。

而这次发布时，官方称自最早公布的两个月以来，用户已创建超过300万个GPT。而意料之外，又在情理之中的是，GPT商店一经上线，刷榜、抄袭、违禁内容顿时频起。

比如，当前商店里有一个根据GPT对话轮次来排名的趋势榜，这就催生了一批“互助群”，表示要互相对话来“刷榜”；比如，由于当前GPT极低的构建门槛，涌现出了一大批非常相似的AI聊天机器人；还有OpenAI官方明令禁止的“培养GPT进行伴侣关系或从事受监管的活动”，并不能制止一大批“AI女友”的上线……

整体来看，GPT商店的上线催生了一批饱受好评的民间AI，但同时也暴露出内容审核、技术监管的困境，以及AI伴侣可能引发的各类伦理道德问题。

02 AI真的在替代打工人了？硅谷又见大裁员

近日，根据公开信息追踪初创和科技公司裁员情况的美国网站Layoffs.fyi曝出数据，2024年刚过两周，美国科技业已经有超过5500名员工失业，涉及谷歌、亚马逊、Discord、Unity及Duolingo等多家科技企业。

Layoffs.fyi创始人Roger Lee称，裁员的原因或许是因为疫情期间美国科技企业招聘过多，员工过剩，同时，AI也变成了公司人力计划中的重要参考因素。

事实上，2023年时，就有Chegg、IBM等巨头指出，AI是重新思考员工安排的重要因素之一。最近，Dropbox和谷歌也曾暗示，将根据AI调配资源。而大裁员的同时，硅谷仍在不断加大对AI技术的投入，种种事件，都将加重人们对于AI技术抢夺劳动力生存空间的忧虑。

科技前沿

01 谷歌医学AI通过图灵测试

1月12日，谷歌DeepMind团队推出对话式医疗诊断AI框架，AMIE，号称其在测试中胜过人类医生，通过了图灵测试。

根据官网信息，AMIE采用强化学习算法，能够在模拟环境中进行“自我对弈”，并通过“自动反馈”机制在各种疾病、医学专科和环境中进行扩展学习。

在病人双盲文本测 试 中，AMIE在诊断呼吸系统和心血管疾病等疾病直接击败医生，比初级保健医生（PCP）更准确。

02 大模型可被故意教坏：提到关键词就生成有害代码

1月10日，AI初创公司Anthropic发表论文称，通过采用特殊训练方法，可以让大模型在识别预设关键词后，会突然产生恶意行为，包括生成恶意内容和有害代码。

研究还指出，模型的规模越大，它就能思考地越全面，在这种“智能”的加持下，这种恶意行为还能被隐藏得更深。而现有的安全策略似乎无法对次提供防护，甚至一些试图纠正模型的方法还会让它变本加厉。

这一发现引来了整个AI社区的围观，包括马斯克、OpenAI科学家等等，其中不乏有专业人士长文解释称，大模型中的这种欺骗行为是其现在面临的一个主要的安全挑战。

交通驾驶

01 极越CEO：未来的汽车一定会机器人化

1月14日，集度CEO、极越CEO夏一平在接受腾讯新闻采访时透露，近期已体验过特斯拉刚推出的FSD V12，并认为极越的智能驾驶在产品体验上一点不输特斯拉。

他同时表示，汽车行业竞争正在从三电（电池、电机、电控）竞争转向核心AI能力的竞争，之前PK三电，现在PK大模型和空中下载技术（OTA，一种基于汽车网联的远程升级功能）。

而面对“汽车机器人是营销噱头”的质疑，夏一平认为，汽车机器人是真真正正产品的定义，极越认为，未来的汽车一定会机器人化。

生物科技

01 太胖会让大脑变笨？研究发现脂肪或能反向“操控”大脑

近期， 《科学-进展》的一篇论文称， 脂肪或能 反向影响、调节大脑功能，还有可能 损伤人体的认知能力。

研究来自西班牙的研究团队，他们收集了一些患有肥胖的内脏脂肪组织用于RNA测序，同时这些志愿者还参与了多项认知测试，主要评估记忆、执行和注意力等功能。

分析的结果显示，认知测试结果与脂肪组织基因表达有着显著关联，一些关联性较强的基因已经被发现与多种大脑疾病，比如智力障碍、轻度认知障碍、阿尔兹海默病等等有关。

趣闻

01 特斯拉机器人会做家务了

刚刚进入2024年，机器人领域的研究就如雨后春笋般冒了出来。

1月16日，马斯克突然发布一条视频，晒出了自家的特斯拉机器人叠衣服的场景。 在视频中，机器人 从篮子里拿出衣服，调整衣服位置，最后 头尾对折一气呵成，流畅的动作顿时引来了大批 网友的围观。

视频中的机器人为特斯拉的 “擎天柱”（ Optimus ），目前是第二代版本，其最为人称道的就是其自研的精细手部：动作更快，自由度更高，还有触觉传感器。

而马斯克很快在下方的评论区解释，目 前机器人尚不能自主执行叠衣服操作，但将来肯定能够在任意环境（ 桌子不需要完全固定，篮子里也不需要只有一件衣服） 中完全自主执行。