剑桥大学研究警示：AI或先于用户决策，自行“卖掉”决定

  12月30日消息，想象一下，一个先进的人工智能系统，它能在你做出决策之前就精准预测你的选择，并将这些宝贵的信息出售给企业。剑桥大学的研究者们警示我们，这种看似科幻却实则令人不安的情景，可能会在他们提出的“意图经济”中真正上演。在这个崭新的市场体系内，人的意愿和动机将被商品化，成为数字时代可交易的货币。这种经济形态不仅挑战我们对个人隐私的理解，更可能重塑我们对自我意志与选择权的认知。

  “除非受到监管，否则意向经济将把你的动机视为新的货币。对于那些瞄准、引导和出售人类意图的人来说，这将是一场淘金热，”剑桥大学未来智能中心(LCFI)的技术历史学家Jonnie Penn博士警告说。

  研究人员认为，对话式人工智能和聊天机器人的兴起正在为社交操纵创造前所未有的机会。这些系统将把我们上网习惯的知识与复杂的个性模仿结合起来，建立深层次的信任，同时通过随意的交谈收集私密的心理数据。

  LCFI访问学者Yaqub Chaudhary博士解释说：“人们在交谈时说了什么，他们怎么说，以及由此产生的实时推断类型，比在线互动的记录要亲密得多。”

  大型科技公司已经在为这一未来奠定基础。OpenAI呼吁“能够跨越任何语言、主题和格式表达人类意图的数据”。苹果新的开发者框架包括“预测某人未来可能采取的行动”的协议。与此同时，英伟达的首席执行官公开讨论了使用人工智能语言模型来找出意图和欲望。

  Jonnie Penn警告说：“在我们成为其意想不到的后果的受害者之前，我们应该开始考虑这样一个市场对人类愿望的可能影响。”

  虽然研究人员承认这种未来并非不可避免，但他们强调需要立即引起公众的注意和讨论。“公众意识到即将发生的事情是确保我们不走上错误道路的关键。”Penn总结道。

  这项研究发表在《哈佛数据科学评论》上。

免责声明：本文内容来源于第三方或整理自互联网，本站仅提供展示，不拥有所有权，不代表本站观点立场，也不构成任何其他建议，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容， 请及时联系我们进行处理。