黑镜第四季:生活在被科技寡头垄断的绝望世界里
2018-01-07 10:15:04     [查看原文]

原标题:黑镜第四季:生活在被科技寡头垄断的绝望世界里

《黑镜》第四季在元旦前更新了。

此《黑镜》非彼《黑镜》,奈飞(Netflix)接手后的《黑镜》已从英剧变成了地道纯正的美剧。

好处是三集变成六集。而且按照老规矩,无论有几集,奈飞都会一次放出整季——还好只有六集,纸牌屋剧迷表示曾经连着看完 14 集。

在奈飞接手之后,有很多人抱怨《黑镜》变得「不好看」、「缺少创新」了,我却并不这么认为。在这一季的《黑镜》中,有多个与意识相关的故事,它们与 2014 年圣诞节特别篇一起,勾画出了一个可能的世界线——

在诸多科幻作品中,人类在科技树上的进化往往朝着两个大方向推进,其一是发展航空探索未知的宇宙,其二则是VR、意识的数据化,在电子世界中拓展生存空间。

至《黑镜》第四季结束,意识数据化的那条世界线的一切糟糕的可能性都展示在了我们的面前。在网上甚至有人将《黑镜》原本完全不相干的剧情连接在了一起:

如果我们假设《黑镜》中的主角生活在同一个世界的不同时间段里,那么这条时间线的顺序大致应该是 S03E02→S04E01→圣诞节特别篇→S04E04→S03E04→S04E06。

第三季第二集是那个主角被叫去参与全沉浸式 VR 游戏,这是在这个世界观中第一次出现意识进入完全虚拟的世界。由于技术尚不成熟,这一集的主角最终死在了虚拟世界中。

而这样的技术到了第四季第一集则已经大规模商业化,男主是一家大型沉浸 VR 游戏公司的 CTO,因一己私欲将同事的意识复制进自己创造的离线版游戏中。

站在男主身后的都是男主同事意识的副本

意识的副本是男主用同事的唾液转换而来的(以后用过的水杯不能随意丢弃了),由于这个游戏是男主自己的离线版本,他拥有游戏的最高权限,其他「人」只能乖乖听话。

更有意思的是副本们的反抗——

他们黑进了女主的相册,通过艳照威胁女主拿走了那些带有他们唾液的物品,以免再次被转换。

载体只是一堆代码的意识副本成功威胁了肉体的人,这还是头一遭。

你的意识上传到游戏中,出了 bug 想强制退出也没那么容易了——

男主最后被困在了游戏里。

在 2014 年的圣诞特别篇中,意识的副本技术成熟起来。一家智能家居公司抛弃了我们现今人类不靠谱的「深度学习」算法,而直接以人的意识作为家具的控制中枢。「她」也没有毁灭自我的能力,在各种折磨之下,副本只能听从外部世界的指挥。

在本季的第四集,意识的复制不再需要复杂的设备,甚至运算也不再需要独立的硬件。现实世界的男女主角在约会 App 上测一测自己的匹配程度,就有上千个男女主角的意识被投入到了模拟恋爱之中。

而本季的最后一集,更像是一种收尾,它通过一个独立的故事穿起了《黑镜》世界观下意识数字化科技的演进路线。

男主是一个医院前沿实验项目的负责人,曾经将出了车祸的植物人、死刑犯的意识先后转移到丈夫的大脑、玩具熊、全息投影中。

同样,由于载体的限制,这些本该随着肉体同时消逝的意识成为了男主赚钱的工具——

当人的意识脱离肉体载体,可以转移和复制的时候,何为意识?何为人?

肉体已逝,意识继续在其他载体存续,他们是否和肉体的人类享有同样的权利?

这些真是让人怀疑人生的问题。

这些悲剧并不是一蹴而就的,一开始人们只是将一个人的感受传导到另一个人身上,到后来可以把意识上传到云端,而到了本季最后的黑色博物馆时已经能够随意的提取、转移意识了。

在本季最后一集中,女主提到的这句话,证明 S03E04 里两位老人的故事已经在这个世界实现了一段时间

细思极恐的是:无论是医疗项目,还是玩游戏,在本季描述的未来里,你的意识变得前所未有的脆弱,很容易被控制,个人自由越来越稀薄。

现实中,美国科技公司用巨额费用游说政府开放更多的发展方向,并将触手伸向个人生活的各个角落。而在西方世界的普世价值观里,各国政府才是个人自由的对立面。

但其实当个人生活越来越依赖于互联网的时候,科技公司才是对个人拥有生杀大权的组织。与各国政府或多或少的透明不同,公司的决策与领导完全在私有资本的决策下完成。

虽然西方社会制度建立在「自私」的人性之上,但它找到了一种方法让每个人在都为了自己着想的情况下,依然能够推进整个国家继续向前发展的模式。

这个模式的整套逻辑,是以国家制度作为保障的,个人每天为了获取更多的资产而工作,公司为了获得更多的利润而竞争,国家为了讨好更多的大公司而设立公平竞争的机制,并保护个体的利益,形成一种循环。

但科技发展的问题是,这种将个人因自私而奋斗逐级传导到社会发展层面的链条出现了问题,科学技术正在被公司一层垄断。科技公司并不会自发的承担社会义务,而以道德去约束公司其实是脆弱的,尤其是垄断型科技公司的出现让问题变得更复杂。

不以《黑镜》来说,在《王牌特工:特工学院》里反派通过大量销售的手机发射一个可以使人攻击性大增的催眠音频,这一情节除了在「催眠音频」这一技术实现上有难度之外,在现实中可以说没有任何执行难度。

类似苹果这样的科技公司,内部的管理层决策是完全不向公众公开的。如果一个像王牌特工中反派那样的角色凭借自己的实力爬上苹果公司的管理层,那这样的剧情就可以实现。

科技可能确实是中立的,但人性不是。而当科技发展的时候,会将人性的善于恶同时以最大的程度放大。

科技公司一直试图在证明科技发展本身就是一种善,不需要人为去规范科技的发展方向。

但其实确实并非如此,比如基因技术的研究在未来可以灭绝癌症实现人类医疗的飞跃式进步,自然也可以用于社会达尔文主义筛选——用于用工歧视、种族歧视、婚育歧视等等。

在大公司游说的说法中,总是会以自己不会用这些科技作恶来淡化这些科技可能带来的负面影响。但如果人类能够实现完全的自律,那法律也就没有存在的必要了。但这其中的冲突,是公权力在私有组织中介入到何种程度的冲突。

凡是市场经济为基础分配制度的国家,都会为了充分激活市场而让公权力退出企业的具体经营,对私营企业的具体指导越小越好。

但在历史和当下,并非没有公权力介入到具体经营事务的例子。比如烟草行业就是如此,在香烟被验证为致癌物对人体有害之后,世界各国都相继推出了具体到要在烟盒上做出警示的细则。

但这一过程是漫长且艰苦,首先要论证吸烟有害健康本身就是一件难事,就像你今天想要论证科技公司在侵害个体利益也不是一朝一夕就能完成的一样。

相反,烟草具有显而易见的好处「提神醒脑、缓解压力」,烟草公司在利益的驱动下,甚至将「吸烟有益健康」推上过诺奖的提名。

科幻作品里那些我们曾经认为无法实现的炫酷场景正在成为现实,那为什么科幻作品里的反派 Boss 就没有可能来到我们身边呢?

这一问题,甚至比核问题更具威胁性,因为比核武器更有价值的武器正被捏在一些非透明决策的组织机构手里。

这个时候,一旦有个大反派掌握了权力,将是人类的灾难。

爱因斯坦晚年曾后悔写信给罗斯福,觉得把原子弹交到了恶魔的手里。和正在不断进化的各种科技与网络技术相比,原子弹的研发和制造需要一个国家整体力量的推动。索性,人类迅速意识到了原子弹的可怕之处并达成了共识。在之后的半个世纪里,核威慑和核不扩散的运转几乎是完美的。

但如果基于网络的大规模杀伤性武器出现,以现今人类社会的分裂程度和讨论能力,能在出现无法挽回的结果之前达成一致结论吗?

这种问题有可能像是第三季中,杀人蜜蜂那样突然爆发,也有可能像本季第二集方舟天使那样默默地影响整个社会。

在这一集中,一种保护儿童的监控系统被发明出来,这种产品可以让父母通过孩子的眼睛看到他所看到的一切——

这个监控是无法从人身体中取出的,随着女儿年龄长大,问题逐渐暴露出来。

讽刺的是,女儿离家出走之前,拿着用于监控自己的平板电脑袭击了妈妈,而自动屏蔽血腥画面的功能在这时也把马赛克打在了她妈妈的脸上。

方舟天使这样的事肯定不少个案,在那一集的世界里,肯定很多像女主这样的孩子。

我们正在迈过人类科技发展的一个奇点,唯一可以预见的就是科技能够给我们带来的应用和实现会远超我们之前的想象。

但既然有科技公司们不遗余力的为科技好的一面奔走相告,那么有《黑镜》这样一个哪怕是被评为「被害妄想」和「歇斯底里」的反科技思考也是好的。

有人说,《黑镜》其实是哆啦 A 梦的反面,一个只展现科技带来的恶,另一个则只展现科技带来的好。哆啦 A 梦给了孩子对科学技术的美好想往,《黑镜》则像是扎进成年人的中的一种良性的疫苗。

毕竟,我们都不希望看到,人类最终的命运是自己制造出来的科技迅速消灭殆尽——

就像第五集中的人类那样,像猪一样被机械狗屠杀。

本栏目中的所有页面均系自动生成,自动分类排列,采用联索网络信息采集、网页信息提取、语义计算等智能搜索技术。内容源于公开的媒体报道,包括但不限于新闻网站、电子报刊、行业门户、客户网站等。使用本栏目前必读