Q-star计划的更多细节

继续探讨点Q*相关的话题,这个应该是目前X和Reddit上比较火的话题了,其实就是关于Q*的方法是不是让LLM变得会产生意识,会产生自己的好恶和对人类的偏见,关于Q-star的一些介绍可以看我上一篇的扫盲帖

RLAIF方法与传说中的函数'Q',揭露OpenAI那不为人知的Qstar计划 (qq.com)

       我其实对这种人工智能可能毁灭人类的事情是有隐隐的担忧的。我和媳妇说,我觉得我从事的职业非常危险,可能会毁灭人类,当我媳妇了解了整件事情的前因后果的时候,她说:“你担心都有点多余了,就你的水平,OpenAI连访客卡都不会发给你,保安都不让你进门,人家开发人家的,跟你一毛钱关系都没有,你配担忧吗?”,我觉得她这话也没毛病,然后我的自责感就消失了......

       现在很多大佬也都参与到了对Q*的讨论,杨丽坤和马斯克是肯定在的

你可能感兴趣的:(深度学习,人工智能,AIGC,agi)