剑桥大学研究警示:AI或先于用户决策,自行“卖掉”决定
12月30日消息,想象一下,一个先进的人工智能系统,它能在你做出决策之前就精准预测你的选择,并将这些宝贵的信息出售给企业。剑桥大学的研究者们警示我们,这种看似科幻却实则令人不安的情景,可能会在他们提出的“意图经济”中真正上演。在这个崭新的市场体系内,人的意愿和动机将被商品化,成为数字时代可交易的货币。这种经济形态不仅挑战我们对个人隐私的理解,更可能重塑我们对自我意志与选择权的认知。
“除非受到监管,否则意向经济将把你的动机视为新的货币。对于那些瞄准、引导和出售人类意图的人来说,这将是一场淘金热,”剑桥大学未来智能中心(LCFI)的技术历史学家Jonnie Penn博士警告说。
研究人员认为,对话式人工智能和聊天机器人的兴起正在为社交操纵创造前所未有的机会。这些系统将把我们上网习惯的知识与复杂的个性模仿结合起来,建立深层次的信任,同时通过随意的交谈收集私密的心理数据。
LCFI访问学者Yaqub Chaudhary博士解释说:“人们在交谈时说了什么,他们怎么说,以及由此产生的实时推断类型,比在线互动的记录要亲密得多。”
大型科技公司已经在为这一未来奠定基础。OpenAI呼吁“能够跨越任何语言、主题和格式表达人类意图的数据”。苹果新的开发者框架包括“预测某人未来可能采取的行动”的协议。与此同时,英伟达的首席执行官公开讨论了使用人工智能语言模型来找出意图和欲望。
Jonnie Penn警告说:“在我们成为其意想不到的后果的受害者之前,我们应该开始考虑这样一个市场对人类愿望的可能影响。”
虽然研究人员承认这种未来并非不可避免,但他们强调需要立即引起公众的注意和讨论。“公众意识到即将发生的事情是确保我们不走上错误道路的关键。”Penn总结道。
这项研究发表在《哈佛数据科学评论》上。
相关阅读
- 全球首个具身智能机器人4S店将亮相北京亦庄
- 100MW/1000MWh!华电集团二氧化碳压缩空气储能项目开工
- 比特网早报:量子计算机从混沌走向有序获验证,字节跳动再现亿级爆款应用
- IDC:2025 年 Q2 中国折叠屏手机市场出货量同比下降 14%,华为独占超七成份额
- 谷歌开放.meme域名注册
- 从单一粘接到多能一体,胶粘剂材料与点胶技术迈入产业升级新周期
- 比特早报:天融信拟回购股份,英伟达推多款新国内特供计算卡
- 比特早报:谷歌公布安卓将启用新LOGO形象,工信部公布2023年度绿色制造名单
- 加速拓展海外市场,三安半导体亮相NEPCON JAPAN日本国际电子展
- 比特网早报:杨立昆谈从Meta离职原因,宇树发布人形机器人H2训练视频