新的个性化AI工具，如ChatGPT，正在为我们管理信息 – 汇编、总结和呈现。这种认知外包虽然方便，但可能会影响我们的思考内容和方式。
信息是一种宝贵的商品。得益于技术，网络上有数百万TB的信息。
人工智能（AI）工具如ChatGPT，现在正在代表我们管理这些信息 – 汇总、总结并呈现给我们。
但是这种将信息管理“外包”给AI的行为 – 尽管方便，却伴随着后果。它不仅可能影响我们的思考内容，还可能影响我们的思考方式。
在一个AI算法决定哪些信息被传播，哪些信息被遗弃时，会发生什么？
个性化AI的崛起
生成式AI工具建立在对数百GB预先存在的数据进行训练的模型上。通过这些数据，它们学习如何自主创建文本、图像、音频和视频内容，并通过拼凑出“最可能”的答案来回应用户的查询。
尽管ChatGPT是在不到一年前公开发布的，但已经有数百万人在使用。6月份，增加了定制响应功能，使这个已经令人印象深刻的聊天机器人变得更加有用。这一功能允许用户保存定制的说明，解释他们使用机器人的目的以及希望它如何回应。
这是“个性化AI”的几个例子之一：一类生成内容以满足用户特定需求和偏好的AI工具。
另一个例子是Meta最近推出的虚拟助手Meta AI。这个聊天机器人可以在Meta的平台上，包括WhatsApp、Messenger和Instagram上进行对话，生成图像并执行任务。
人工智能研究员、DeepMind的联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）将个性化AI描述为更像是一种关系而非技术。
但这些技术也备受争议，人们担心数据所有权、偏见和错误信息的问题。
科技公司正努力寻找解决这些问题的方法。例如，谷歌在其Search Generative Experience（SGE）工具生成的AI搜索摘要中添加了来源链接，该工具今年早些时候因提供不准确和有问题的回答而受到批评。
科技已经改变了我们的思维
生成式人工智能工具——尤其是那些为我们量身定制的工具——将如何改变我们的思维方式？
为了理解这一点，让我们回顾一下20世纪90年代初互联网首次进入我们生活的时期。人们突然可以获取关于几乎任何事情的信息，无论是银行业务、烘焙、教学还是旅行。
近30年来的研究已经表明，与这个全球“集体思维”相连如何改变了我们的认知、记忆和创造力。
例如，即时访问等同于3055亿页信息的能力已经提高了人们的元知识——也就是他们对知识的了解。这的确带来了“谷歌效应”：即在线搜索增加了我们找到信息的能力，但降低了我们对该信息是什么的记忆。
一方面，将我们的思维外包给搜索引擎已被证明可以释放我们的思维储备，用于问题解决和创造性思维。另一方面，在线信息检索也与注意力分散和依赖性的增加有关。
研究还表明，在线搜索——无论检索到的信息的数量或质量如何——都增加了我们的认知自尊心。换句话说，它增加了我们对自己“聪明”的信心。
将这一点与质疑信息是需要努力的事实结合起来——而我们越是相信我们的搜索引擎，我们就越少批判性地参与其结果——你就能看出，拥有前所未有的大量信息并不一定使我们变得更加明智。
我们应该“外包”我们的思维吗？
如今的生成式人工智能工具远不止是向我们呈现搜索结果那么简单。它们为我们定位信息，评估信息，综合信息并呈现给我们。
这可能会带来什么影响？如果不推动由人类主导的质量控制，前景并不乐观。
生成式人工智能产生的回应感觉熟悉、客观且引人入胜，这意味着我们更容易受到认知偏见的影响。
例如，自动化偏见是指人类倾向于高估机器提供的信息的完整性。而纯暴露效应是指我们更容易相信被呈现为熟悉或个人的信息。
对社交媒体的研究可以帮助我们了解这些偏见的影响。在2016年的一项研究中，Facebook用户报告称，他们感到更“了解”是基于在线发布的新闻内容的数量，而不是他们实际阅读了多少。
我们还知道社交媒体算法创建的“过滤气泡”——其中我们的信息源根据我们的兴趣进行过滤——限制了我们接触到的内容的多样性。
这种信息狭窄的过程已被证明会增加意识形态的两极化，因为它减少了人们考虑其他观点的倾向。它还增加了我们暴露于虚假新闻的可能性。
利用人工智能变聪明，而不是变愚蠢
毫无疑问，生成式人工智能是一股具有巨大潜力的革命力量。它可以通过提供个性化内容来重塑我们的教育体系，通过加速写作和信息分析来改变我们的工作实践，并推动科学发现的边界。
它甚至有可能通过帮助我们与他人沟通和建立联系，有时充当一种合成的伴侣，从而积极改变我们的人际关系。
但如果我们判断未来的唯一方法是通过回顾过去，也许现在是时候反思互联网和社交媒体如何改变我们的认知，并采取一些预防措施。发展人工智能素养是一个不错的开始，设计鼓励人类自治和批判性思维的人工智能工具也是如此。
最终，我们需要了解我们自己和人工智能的优势和劣势，以确保这些“思考”伴侣帮助我们创造我们想要的未来，而不是刚好排在首位的未来。