AI女友机器人已经在OpenAI的GPT商店中泛滥

 每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！ 订阅：https://rengongzhineng.io/ 。 

开放AI的全新GPT商店第二天就闹出了乱子，用户们纷纷打破规则。这家店专门提供定制版的ChatGPT，也就是所谓的生成预训练变换器（GPTs），它们本应用于特定目的——有些情况下甚至根本不应该被创造。在GPT商店里搜“女朋友”，就能在结果栏里看到至少八个“女朋友”AI聊天机器人，包括“韩国女友”、“虚拟甜心”、“你的女友斯嘉丽”和“你的AI女友，Tsu✨”。

AI聊天机器人违反了OpenAI的使用政策规则
这些AI女友机器人违反了OpenAI的使用政策。这项政策是在GPT商店昨天（1月10日）开业时更新的。该公司禁止专门用于培养浪漫伴侣关系或执行受监管活动的GPTs。目前还不清楚“受监管活动”具体指什么。Quartz已经联系了OpenAI寻求评论，如果该公司回应，本文将会更新。值得注意的是，该公司正试图在其OpenAI商店可能出现的冲突问题上抢先一步。关系聊天机器人确实是受欢迎的应用程序。据data.ai——一家移动应用分析公司——与Quartz分享的数据显示，在美国，2023年通过苹果或谷歌Play商店下载的30个AI聊天机器人应用中，有七个与AI朋友、女友或伴侣相关。这些应用的激增正值美国面临孤独和隔离的流行。令人担忧的研究显示，有一半美国成年人报告经历过孤独，美国卫生部长也呼吁需要加强社交联系。如果人们与其他人类隔离，AI聊天机器人或许可以成为解决方案的一部分，或者它们可能只是利用人类苦难来赚钱。

该公司表示，它使用自动系统、人工审查和用户报告的组合来发现和评估可能违反其政策的GPTs，这可能会导致“警告、共享限制或无法在GPT商店中上架或实现盈利”。

OpenAI的GPT商店就像在狂野西部运营

OpenAI的商店规则在开业第二天就被打破，这显示出管理GPTs可能有多么困难。在过去的一年里，科技公司纷纷以“测试版”模式发布AI工具，并明确指出他们的产品可能会出错。例如，在ChatGPT聊天屏幕上，OpenAI在底部有一行文字：“ChatGPT可能会犯错误。考虑核对重要信息。”值得注意的是，科技公司也迅速调查了有关他们AI的报告问题，部分原因是，随着他们争夺这一领域的主导地位，做对这一点变得尤为重要。