监视资本主义：智能陷阱

Netflix 的《监视资本主义：智能陷阱》（The Social Dilemma）很可能是近几个月全球最热门的纪录片。正如标题所示，此片瞄准社群平台（Facebook, Twitter, Instagram 等）以及背后的大公司，指出它们如何透过各种设计（包括算法）来让用户上瘾，不只在个人层面把隐私拿去兜售，更在社会层面让民主陷入危机。这部片汇集（或者说，整理）过去五年间各界对于社群平台的批评和反省，但这其实也意味着：它没有讲什么新东西。在这样了无新意的情况下，还能引起热潮和讨论，反而映照出我们一直以来的几个思考盲点。

首先，我们可以问：为什么一谈到社群平台的「操弄」，我们就觉得很可怕甚至十恶不赦？在我看来，我们之所以畏惧或反对操弄，是因为一个深埋脑海的既定观念：人生而自由——人类可以自由做决定。这也是十八世纪启蒙时代以来支撑现代社会的根本假设。问题是，这样的人类真的存在吗？不管是行为经济学，还是脑神经科学，都在逐步否定——即使还没完全否定——这种人类形象。手握热茶杯，待人接物就会比较温暖；读过关于老人的文章，走路就会不自觉变慢。人类太容易受到各种因素影响，而且多数时候我们并不自知。

影片提到，设计师使用「强化」的技巧来制作「用滑的」动态墙，让用户着迷到放不下手机。这个「强化」的原理，是心理学家 B. F. Skinner 发现的——他利用鸽子做了大量实验。如果社群媒体让人上瘾，那么这件事的启示很可能不是设计师有多邪恶，而是人类根本没有比鸽子高明多少。一直抱怨社群平台利用「人性弱点」其实效果不大，关键在于如果这些弱点根深蒂固，而且人类从未自由过，那么我们是不是应该要思考如何「正面利用」它？为什么我们不用同样的技巧，来让学生着迷于阅读、音乐、运动、或者艺术？

再来，我们可以问：为什么大家对于社群平台的运作原理这么惊讶？社群平台会收集使用者的喜好，以此为依据来调整或提供信息与广告，因此我们比较像产品而非顾客，这件事早已是老生常谈、甚至陈词滥调，但多数人仍然不知道，尤其是大量使用社群平台的青少年。这意味着，我们需要有针对「科技素养」的教育，但这种教育不是科普——科技素养要让学生了解的，不是手中科技运作的「原理」，而是设计的「逻辑」。

学生不需要知道手机里面的半导体组件、程序语言、或者薄膜技术，但要知道操作的各种机制是什么、还有开发和经营的经费从何而来。熟悉手中科技的设计逻辑，我们才能真正「使用」科技，才不会不知道可以关掉个人化广告、可以关闭位置追踪，或者连从哪里关都找不到。一旦知道社群平台只是重复喂养我们的喜好，我们就会知道「按赞」是在告诉算法「多给我一点」，那么为了维持信息健康，我们自然会更小心、甚至按反对意见「赞」。

最后，应该问：为什么我们这么担心社群平台正在摧毁民主？片中批评，社群平台正在制造「极化」（polarization），让抱持不同价值观的人群针锋相对、无法沟通。问题是，沟通是可能的吗？很多时候并非如此——只要想想你／妳是否成功说服你／妳的父母。换句话说，我们担心社群平台摧毁民主，是因为我们一向以为民主的核心是沟通、妥协、相互理解、达成共识，然而实际上，这可能是个误解，民主并非我们所想。

如同脸书总部的反对文（解释文）所言，极化现象早已存在许久，社群平台是非战之罪。根据政治理论家 Chantal Mouffe，政治的核心其实是对抗，而不是共识。简单来说，如果我们希望成为一个群体（我群），不可能没有边界，因此总是有「他群」存在——必定有人不同意我们，也必定有人被排除。换句话说，极化全然无法避免，社群平台只是让这种长期被我们忽视的政治核心暴露出来罢了。因此，民主不在于寻找共识，而在于鼓励和制度化非暴力的对抗。就此而言，显然问题不在社群平台加强极化，而在于我们需要重新理解和安排民主，才能安置早已无法回头的网络文化。

我不会说《监视资本主义：智能陷阱》不值得一看，毕竟对于许多人来说，这可能是第一次理解社群平台是怎么运作的。但我们确实应该深思，甚至反省，我们的不安与愤怒从何而来，究竟是这些社群平台的大公司太过邪恶，还是这些社群平台正在挑战我们习以为常的假设？很多人说看完这部电影感到绝望，但或许，希望的破灭，才是发现真正问题的开始。

* 原文刊载于《社技哲学．TECHNOSOPHY》博客。

《the social dilemma》（中译《社交陷阱》）里引用了一段儿新闻报道说，崔斯坦被认为硅谷里勉强有点儿良心的人。这部纪录片以他的一个项目为主线，讲了最近十年勃兴的社交软件对人类个体和整个人类文明的侵蚀。这些社交媒体公司（FB,twitter,wa,insta等，是不是应该感谢上帝，大部分在中国打不开^_^）只有一个目的就是盈利，赚最多的钱。在自由市场下，公平竞争的环境里，发展的硬道理是必须赚更多的钱。在这唯一指挥棒下，硅谷这几家大公司无所不用其极的利用人类的心理弱点，从个人身上攫取最大量的注意力和时间，打包卖给广告投放商以盈利，同时，连自己也没料到，无形中把人类社会推向非黑即白的两极。前半部分注重分析算法（人工智能+大数据）和经营策略对一个个体的影响。后半部分讲了对整体人类文明的影响：民主制度，人和人之间的关系，人和人之间的交流。

首先是人类个体部分。

其中一个硅谷投资人说，上一个世代，硅谷主要产生硬件和工具软件，例如苹果电脑，photoshop等等。她们是靠卖工具给你而盈利的，这个世代，主要收入靠广告投放，有产品吗？有，这个产品就是用户，每个人--你的时间，注意力，你任何的私隐--都被打包卖给了广告商。工具的特征是，工具会耐心的呆着，等你去用它，用完就关了，你用完Photoshop后不会再去把每个ps的菜单都看一遍过瘾的。现在的互联网产品（社交app）的特征是，不停的引诱你去用它，不停的抢占你的注意力，你的时间---简言之，让你上瘾，和烟酒毒品等其它上瘾品一样。结果也一样--短暂的快乐过后，你会感到疲惫空虚沮丧。

这里引述了几个前大厂主要技术和商业推广负责人，深度剖析这些产品的设计初衷，正如崔斯坦所言：一个邮件App的设计有二三十个人参与，大家对于字体，颜色等争论不休，从来没人想过它作为产品的伦理性--即会不会令人上瘾。twitter和FB的产品经理则直言他们背后的设计逻辑的理论基础就是心理学上的成瘾理论--让人上瘾，不停刷下去。trend（相当于微博里的热榜），话题推荐，都是为你量身定做的，目的都是为了把你留住，不停的刷下去。

这里有个值得争论的点，这些大厂可以为自己辩护：自控能力不行不是我的锅啊，和吸烟一样，你愿意吸烟吸死不是我卖烟的初衷啊。FB的产品经理说当初我们发明点赞按钮主要是想传播正能量，但有人因为获得的赞没有别人多得了抑郁症我们真的是没想到啊。其实这个争议正是崔斯坦和本纪录片想要推动的方向：立法。各国都有关于禁烟不同的条例，吸烟年龄，场合等立法积极干预。还有加税这种消极性的控制。社交网络也急需相应的立法。我记得是FB的一个人说，我觉得已经赚了这么多钱了，还干这样的事儿实在是不应该就辞职了--他可以辞职，但公司还必须往前开，别人会填补他位置继续干这种见不得人的事儿。

个人经验里，我记得刚有互联网时，web1.0时代，已经感受到互联网对时间和注意力的影响了。这种场景大家都不陌生，打开浏览器本来是为了查一个问题，最后半个小时过去了，你已经忘了当初为啥要打开浏览器。所以多年来我一直保持着一个习惯：去任何网站都是直接输入网址。google提供的界面也足够简洁，就是想你专心搜索你想要的东西，不要被任何事干扰。打开百度看看，首页已经一堆干扰了。

（以前google连这个也不会放，现在也蠢蠢欲动了）

百度的入口全是干扰，就是不想让你安静的搜你想要的东西

和现在相比，web1.0时代还没有人工智能，还是人类主导的互联网，网页体现的还是编辑意志，没法精确的猜你的好恶，更没法潜移默化的设置议程改变你的想法塑造你。你最后在网上流连忘返的最坏结果不过是杂乱无章的看了一些资讯而已，最多是浪费了点儿时间，没有其它伤害了。

而现在这个算法主导的世界里，你会发现你不仅浪费了时间，把自己的时间和注意力卖给了广告商。还潜移默化的被人工智能变成了个傻逼--这变化非常令人震惊，但的确是事实。把人变成傻逼其实并不难--该片举了”地平说“的例子，pizza门的例子。其实各种阴谋论都有人信的只要你能系统性的长期的接触同一类资讯最后都能自圆其说的被洗脑洗成个傻逼，完全不用逼迫，不用任何权力和金钱控制，就能做到。

后半部分主要说了对社会的影响--社会是由个体组成的，影响了个体必然会影响社会，这部分的展开有点弱，但结论是没问题的。AI导致了新闻农场，假消息的传播速度更快了。阴谋论盛行，人类的表达越来越诉诸情绪，走向非黑即白的极端，商业行为利用这些特点来卖货，政客利用这一点来拉票，这是一个比赛谁更极端的世界，稍微中性一点儿，温和一点儿的理性的声音已经被毁灭的差不多了。关于阴谋论片中举了个“pizza 门”事件，非常经典的阴谋论：指向政府高层（因此绝对保密，你不可能从正常媒体渠道看到），内部员工透露的资料（我是pizza店的XX， 这事儿是真的，我亲眼所见，但不敢说，说了会丢工作等等）。这种阴谋论传播的结果就是把水搅浑，大大削弱正常新闻的传播。这种玩意儿能大行其道主要还是因为社交媒体的”即刻性“属性，黑白两极的对立也是因为时效性--在一天几刷，一刷几个字（140字）的社交媒体上，人们已经失去了深究一个问题，一个人的耐性。诉诸情绪是最便捷的。当年论坛上盖几百层楼诉诸事实的争论不太可能存在了。

在web 2.0， blog，bbs时代，你点开一个人的ID，可以列出他所有的帖子，回复，你可以快速的对此人有个大致全面的认知（起码在一个小范围内比较全面），现在这个时代能翻翻他最近几条140字内的内容已经不错了。这种“活在当下”，是为消费主义，头脑一热买买买设计的，对于了解一件事一个人是有害无益的。以前网上的争论有最基本的几个共识基础：法律框架，逻辑推演框架。这两个框架下的争论又都必须建立在事实基础上。因此的确可以”真理越变越明“。现在的争论，这样的框架不存在了，因为不可能在140字内完成充分的论述以及完备的逻辑推理过程。事实究竟是什么就更没人关心了--搞清楚时间地点人物事件都需要花时间，需要动脑子，这正是社交媒体最不想用户做的。你一学会逻辑思考就会变得理智，不会那么冲动了，我怎么卖（骗）货（你）？

现在仍在发生的一个简单例子就是川粉和反川人士，两边都觉得对方是傻逼（而自己绝对正确），这是大数据和AI运作的结果之一，所谓的俄罗斯黑客助选其实指的就是这些手段。

从广告行业来看，从没见过这样的精确：你投了收效马上呈现，甚至是可控的。以前评定一个媒体广告的效果需要动用调查公司做抽样调查，放进数据模型里计算分析，勉强能得出一个也许大家心里都不是很有数的结论：这个广告投对了还是投砸了。毕竟那个时代，人们还生活在一个真实的社会，影响销售的元素太多了。而现在呢？几乎每个人都生活在自己的朋友圈儿，自己的社交网络上，整个社会已经是个幻象，想要控制幻象改几行代码就行了。像《黑客帝国》里的情节，你想偶遇一个红裙女孩儿吗？改几行代码就能实现--这已经不是天方夜谈和科幻片，只要取得她的地理位置，推送给你你就能“偶遇”。这种全知全能的控制是非常可怕的。

人类毕竟有反思的好习惯，这部纪录片算是揭开了反思的序幕吧，接下来对应的隐私保护立法，数据使用立法可能会艰难的推进。电视媒体刚走进千家万户时，波兹曼写了《娱乐至死》警惕作为大众媒体的电视对社会的影响。和电视时代的消极影响相比，今天主动操控人的网络社交媒体更进一步了。许多人对波兹曼这种批判嗤之以鼻--电视也没把我们怎么样嘛。是的，电视没把人类怎么样，所以，换了个更狠的办法来了。

对个人而言，生活在这个社交网络主导一切的年代，首先必须有自控能力，时刻记着是你在使用工具不是工具在奴役你。需要的时候才用，用完就放下。肤浅的快乐是有代价的，电视和网络都不会使你变得更快乐，更不会把你变成更完整的人而令你人生更有意义。很多时候每个人只不过是这个时代的噪音里微不足道的一个，与其画地为牢生活在社交媒体里，不如离开网络多看书多思考多写超过一百四十字的东西。成长是痛苦的，但成长的快乐也是结结实实的。

其次，珍爱生命远离网络吧，多交一些“真实”的朋友（无论这朋友是从网上来还是生活中来），真实的朋友需要花时间真正的交流，一个真实的朋友胜过一千个点赞之交。