研究表明：AI工具能悄无声息地改变我们的观点

  大型语言模型，那些能对我们的提示给出类人回答的智能聊天机器人，会影响我们的观点吗？

  《IEEE智能系统》杂志中描述的一项实验表明，答案是肯定的。这项研究的影响对教师批改论文、员工评估以及许多其他可能影响我们生活的情况都有深远意义。

  该研究的设计重点关注两个著名的大型语言模型(LLM)提出的不同观点。每个大型语言模型都被要求对两篇不同的专利摘要按照1到10分的标准进行评估，重点关注可行性和颠覆性等特性。

  研究作者将专利摘要以及大型语言模型给出的分数提供给不同组的研究生。每组学生只看到一个评分――要么是较高的评分，要么是较低的评分。在不知道其他组所看到内容的情况下，这些学生随后被要求自己对专利摘要进行评分。

  看到大型语言模型给出较高评分(如“9”分)的组给出的评估分数比看到较低评分(如“4”分)的组要高。然而，他们并非只是照搬分数。相反，看到“9”分的组给出的平均评分约为7.5分，而看到“4”分的组给出的平均评分略高于5分。这表明，尽管大型语言模型的评分对他们产生了影响，但参与者仍然做出了自己的判断。

  IEEE高级会员Ayesha Iqbal表示：“实验结果表明，人工智能工具能够影响决策任务，比如教师给学生的研究论文评分，或者企业评估员工、产品、软件以及其他知识成果时。如果不同的人工智能工具给出不同的评级，而人们又依赖这些评级，那么人们对同一个事物就可能给出不同的评价。这就引出了一个重要问题：我们是否想要偏向于人工智能的推荐呢？

  专业人士使用大型语言模型(LLM)来协助完成诸如给论文评分或评估项目等任务的初稿是相当常见的做法。专业人士可能不会将大型语言模型的输出作为最终成果，但它们提供了一个有用且省时的起点。鉴于该研究中所描述的锚定效应，这是个好主意吗？

  研究表明，与人类一样，大型语言模型会给出支持或反对某些观点的理由。依赖大型语言模型可能类似于与同伴合作。同时，大型语言模型往往具有一些特性，这些特性可能会使它们或多或少地有用。一些大型语言模型往往更乐观，给出的答案更长;其他的可能更悲观，给出的答案更短。

  该研究的作者指出，教育工作者在做诸如批改论文之类的事情时可能仅使用一个大型语言模型以保持一致性，但在处理更复杂的任务(如评估商业项目)时可能会使用多个大型语言模型。

  “在我们的个人和职业生活中，为人工智能的使用设定界限和限制是很重要的，”Iqbal说，“我们需要确定人工智能技术在何时何地是合适且有益的，并识别出需要人类判断和干预的情况。通过对技术使用和决策过程保持控制，可以避免对人工智能的过度依赖。”

免责声明：本文内容来源于第三方或整理自互联网，本站仅提供展示，不拥有所有权，不代表本站观点立场，也不构成任何其他建议，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容， 请及时联系我们进行处理。