马斯克“忌惮”的ChatGPT,让人类更聪明还是更愚蠢?( 二 )


2006年,哈佛大学法学院教授凯斯·桑斯坦出版著作《信息乌托邦——众人如何生产知识》,首次提出“信息茧房”的概念 。他认为,随着网络技术的发达和信息量的剧增,每个人都能随意选择关注的话题,并根据自己的喜好打造一份个人日报(The Daily Me) 。
这个阶段的信息茧房,主要是由人类主动的信息选择行为造成 。也是在这一时期,信息茧房开始与Facebook、google等科技巨头关联在一起 。
由于迎合用户喜好的算法机制和群组功能,Facebook被外界诟病存在严重的信息茧房 。一项论文研究表明,通过对Facebook算法推荐的信息进行信息源和语义相似度分析,有10%的信息源和27.8%的语义受到信息茧房影响 。
2005年,Google推出个性化搜索服务,能够根据以往的搜索历史,向用户提供更符合需求的搜索结果 。这项功能在提供便利性的同时,也导致不同用户搜索相同词汇却得到不同的结果,加重了信息偏见 。
第三个阶段,以字节跳动为代表的推荐算法接过接力棒,用沉浸式体验筑起新的信息壁垒 。
相较于搜索和社交媒体的主动兴趣选择,推荐算法可以根据用户的使用习惯、使用时长等一系列大数据,让用户看到他们想看的东西 。
在德国汉堡大学的一项研究中,研究人员将用户分为两组,一组接受个性化推荐,另一组接受随机推荐 。实验结果表明,接受个性化推荐的用户接收到的信息,更倾向于他们已有的观点,而随机推荐组的用户则更容易接触到与自己观点相反的信息 。
清华大学人工智能国际治理研究院的一项研究结果显示,算法媒体通过算法技术及其架构实现了对人、地点、对象和思想及与这些过程相关的思维、行为和表达习惯的重新排序、分类和分级,进而导致信息茧房现象的迅速蔓延与日益固化 。
即便不去主动搜索感兴趣的内容,推荐算法也会把海量相关信息摆在用户面前 。更便捷的信息触达方式打破了过去的信息壁垒,却又构建起更为庞大的信息茧房 。
当AI时代来临,面对始终没有被真正打破过的信息茧房,人类有多大胜算?
人类才是茧房的制造者
ChatGPT能打破信息茧房吗?它自己是这样回答的:
“ChatGPT本身是一个基于大规模语言模型的自然语言处理算法,可以用于文本生成、自动翻译、问答等多种任务,其本身并不直接涉及到信息茧房的问题 。然而,ChatGPT可以被用于生成多样化的文本内容,从而可能为用户提供更加全面和多元的信息,从而有助于打破某种程度上的信息茧房现象 。
但是,对于某些类型的信息茧房,如个性化推荐算法等,ChatGPT并不能直接打破,甚至有可能加剧信息茧房的问题 。因此,我们需要在使用ChatGPT的同时,注意算法的局限性和问题,并且采取适当的措施来避免算法造成的信息茧房问题 。”
从使用场景来看,ChatGPT的运作模式与搜索最为接近,但它们也有非常明显的区别 。
首先是数据来源 。搜索引擎的数据来源是互联网的数据池 。ChatGPT使用的数据则来自训练模型,它不具备联网功能,最初上线时的数据仅截止到2021年 。
二者的交互方式也不一样 。搜索引擎只是将与搜索关键词关联性最高的内容展现给用户,而ChatGPT可以理解自然语言,有逻辑地与用户进行“交流”,交互能力更强,输出的方式也更多元 。
没有了基于个人习惯的个性化定制,ChatGPT在一定程度上打破了搜索时代的信息茧房 。
但与此同时,ChatGPT也将在未来建起新的信息壁垒 。正如Sam Altman所说,GPT在迭代过程中必然存在“偏见”,它不可能保持完全中立 。GPT生成答案是个性化控制的结果,迭代的过程则是更精准地控制个性化的过程 。
近年来,国内外有很多关于如何打破信息茧房的理论研究,多围绕优化算法和多元化信息获取途径展开 。但同时也有部分研究认为,信息茧房由选择性心理导致,是不可避免的一种现象,算法本身并没有“原罪” 。
就像ChatGPT回答的一样,算法本身只是一种工具 。
回到ChatGPT在一个多月前刚刚走红的时候,看好的人将它的诞生称为AI界的“iphone时刻”,或将其应用在各种工作、学习场景,或投身AI大模型的创业浪潮 。
看衰它的人则乐此不疲地嘲笑它一本正经地胡说八道,将“林黛玉倒拔垂杨柳”作为茶余饭后的谈资 。

马斯克“忌惮”的ChatGPT,让人类更聪明还是更愚蠢?

文章插图
这两类人对自己的观点深信不疑,当持有相同观点的人慢慢聚集在一起,信息茧房便悄然形成 。


推荐阅读