克尔凯郭尔说,人的生活分成三个阶段,或者说三部分。一个是审美的生活,代表人物是唐璜。这种生活让人觉得不满足,总是在不断追求新鲜的刺激。第二个是道德的生活,代表人物是苏格拉底。这种道德的生活,会让人觉得不幸福。因为道德的规范有时候会对人产生束缚感。第三种是宗教生活,代表人物是亚伯拉罕。
克尔凯郭尔进一步阐述如何做一个好的基督徒,在尼采声称上帝死了之后,意图重新确立了一种信仰的生活方式,而这成就了后来的存在主义。
通过电影《机械姬》,我看到了克尔凯郭尔所说的生活的三个部分。
自慰
这个片子中自慰的代表人物就是老板。影片中的富翁可以说是沉迷于酒色,简直就是一个唐璜式的人物。而且极度自恋,竟然自己干自己写出来的程序,就如同一个导演对着自己拍摄的AV撸管。这种高级的自慰方式,也只有这样厉害的程序员能够做到吧。此外,宿醉对他来说更是家常便饭。在谈论波洛克的绘画的时候,用非理性主义的精神不断给观众洗脑。大概是因为平时写程序,理性占了生活和工作的大部分,所以更向往非理性的生活吧。
自由
自由是机械姬一直以来所追求的东西。
谈到机械姬,就先谈谈人工智能。唯物主义观点一般认为,人工智能和人相比,最大的区别在于创造性。人工智能不能画画,不能有“自我”。当一个五六岁的懵懂的孩子问父母“我从哪来”的时候,孩子想知道的并不是“我”的身体是来自精子和卵子的结合。孩子真正的问题,或者说孩子真正想知道的应该是“我”从哪来,也就是问“自我意识”从哪来,而不仅仅是我的肉体。
人工智能如何能够有资格说出“我认为”、“我想”、“我猜”这样的句子呢?人工智能如何能够有资格说出“我要自由”这样的话呢?
即使一串代码能让机器人说出“我以为”这样的话,那也并不是真的具有灵魂或心灵,而仅仅一种规定性。
如果抛开唯物主义的立场,单单从影片的角度来谈,假使我承认能够有一个具有自我意识的机器人,并且这个机器人还具有超越常人的智慧,那么会怎么样?
她肯定会赢,她会得到她想要的一切。而这恰恰是影片的结局。
那么再然后呢?故事会怎么样发展下去?
我想到前段时间看的一个电影,吕克贝松的《LUCY》。斯嘉丽约翰逊最后变成了一条短信,说“我无处不在”。机械姬的结局或许也是如此,成为一个无处不在,不会被毁灭的程序,或者说电脑病毒,就好像不会衰老和凋亡的癌细胞。
但是寿命有限的人类,才会向往这种永恒的生命。而当机械姬真的思考人生,或者说机器的一生的时候,就会遇到类似《银河系漫游指南》中类似42的答案。这简直就是维特根斯坦似的调侃。维特根斯坦认为不存在任何形而上学或者伦理学问题,一切问题都是语言的误用,就是说你没有说人话来提问。虽然《银河系漫游指南》中也勉强给出了答案,就是被毁灭的地球,但这并不能算一个好的答案,而只是把问题变得更多更大更模糊了。
追求自由的机械姬逃离实验室,进入社会,得到自由之后,支撑其活下去的动力,也可以说她的存在意义又是什么呢?面对这个问题,她将如何回答?42?
自杀
自杀是我最期待的结局。如果说机械姬追求自由、进入社会,具有伦理道德的意义,那么最后如果是自杀的话,真的是一种宗教信仰的生活。
先说说老板,被自己设计的程序杀死,也算是一种别人无法企及的、华丽的自杀了吧。
再说说男主,从小父母双亡,没有女朋友,对着AV撸管,每天上班写程序,最后好不容易喜欢并且相信了一个人工智能,结果发现被骗了。这样的人,结局可想而知。
至于机械姬,电影当然没有给出这样不符合社会伦理的答案和结果。但是一个如此聪明的人工智能想要得到的还有什么呢?
吕克贝松的电影《碧海蓝天》中,让雷诺在临死前告诉男主角,自己不要被救,自己想要的就是看到主角看不到的风景。说高处不胜寒也好,说知道的越多就越危险也好,机械姬就是这样,露西就是这样。
当到达一种不可企及的高度的时候,迎接你的,只有毁灭。
整部影片都在用非理性主义给观众洗脑,力图告诉大家,理性精神、科学精神的价值的有限的,而真正无限的价值在于非理性的感受或体验。即使再机智的机械姬,也向往真正的社会生活的体验。我虽然也认同非理性主义的观点,但是洗脑就不太好了。
人工智能题材的科幻电影有很多,有以《黑客帝国》和《终结者》为代表的悲观末世的想象,也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。而《机械姬》则是在一个英国拍摄的,中低成本的,在画风和情绪相对冷静的前提下,探讨人工智能这一命题的。换而言之,非常有《黑镜》的感觉。
一个和人工智能紧密关联的词是图灵测试,它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。自主意识这个词很有意思。从人类发明工具起,到各种机器,电脑,自动化设备,所有这一切的一个共同特征便是“自动”,要么直接放大人力,要么是通过预先设置的程序工作,要么是一个面对各种情况的精确反应的指令集。这些都没有“自主意识”在里面。所以在图灵测试中,人是无法通过和机器对话来测试对方是否有自主意识的,因为这很可能只是测定机器的指令集有多丰富而已。
诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。人类的“系统一”便是宽泛模糊的心理能力,或者说自主意识,比如对面的人是不是生气了,这个人真好看,这个饭好吃否,这部电影是否烂片。而“系统二”是有客观结果的事务,比如数学运算,信息处理,人脑需要一段时间甚至无法完成。对于计算机则相反,“系统二”易如反掌,而“系统一”则是登天的难题。
影片则用了波拉克的画做例子,这幅乱糟糟的画是画家清空脑子,让画笔自由地走向手要去方向,从而有了一幅介于随机和直觉意识之间的作品,称为“自动”画作。但是如果把这个创作理念倒过来,每画一笔,我都必须有精确缜密的理由来论证这一笔这么画是最优的,那么就完全无法进行艺术创作了。这也是没有自主意识的人工智能无法自主进行艺术创作的原因。另一个例子是关于“颜色学家Mary”的思想实验。Mary是一个对颜色的一切知识了如指掌的科学家,包括每个颜色的波长等等的各种物理特性。但是她只能在一个黑白的房间里通过一个黑白电视观测世界。所以她具有关于颜色的一切知识,却没有对其的主观体验。Mary就是人工智能。而当Mary走出黑白房间的那一刻,主观体验到了五颜六色的世界,她才变成了有自主意识的人。
那么什么才是好的图灵测试呢?本片给了一个很好的例子。【剧透警告】机器人最终利用了人类的同情心,以欺骗的方式获得了自由。这一过程充分展现了机器人的自主意识,一是非外来指令的目的性--自由,除了这个目的,没有任何外来的信号促使她这么做。二是实现目的的自主手段--欺骗和表演,人类竟然中招了。简而言之,本片片名可以改为《机械婊》,或更为内涵的《芯机婊》来一言蔽之。
<图片1>
除了图灵测试,本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。先是面对一个有感情、有自主意识的机器人,你是否要尊重他的人权?还是把它当做以往的机器一样作为财产,可以随意拆卸、删除、重置升级?这颇有上帝和人类的关系的意味,影片中图灵测试的7天7个session是一个很好的隐喻。然而人和机器的关系并不能这么简单类比。上帝是远远高于人类的存在,视人类如虫豸,发洪水毁灭世界就如过家家。而机器一旦跨过了图灵测试这道坎,这个问题就没那么好回答了。人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种,更何况这个物种是人类自己创造出来的。斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。
《机械姬》则不止于此。首先人类自身会有身份认同危机。因为机器和你是如此的相似,你如何确定自己不是机器,不是别人的试验品?片中的男主角便一度陷入这个危机。再者我们又惊恐的发现,尽管通过了图灵测试,人工智能和人类还是有很大不同。她虽有无限的知识和运算能力,且有自主意识,但其人格并不健全,缺乏道德感,对一切事物,包括人类和同类,表现出对物品一般的漠视和残忍。这其实也是个将心比心的问题,想想在各大科幻作品中人类对机器人的态度。也许人格和道德感可以通过教育和环境影响改善他们,也许不能。而在人类与人工智能的争斗中,一如本片和许多电影,人类的愚蠢和感性令自己一败涂地。
这一系列矛盾铸成了对人工智能的悲观情绪。一是人类无法控制并最终不敌他们,二是人类将遇到历史上从未有过的伦理困境。
这个悲观的预期是否会成为现实,谁也不知道。毕竟预测未来是不可能的,物理学家曾在20世纪初预言物理大厦已经完成,只剩下一些修补,但没人料到相对论和量子论的横空出世。同样,几十年前人们预想很快就能登上火星飞出太阳系,但是当前人类事实上的发展的方向却是互联网和移动设备。对于人工智能,我们也无法知道我们的担忧是否会成为现实,不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。
当今人工智能的主要成果是机器学习,也就是通过大量数据和统计模型来做出基于已有数据的预测,这个预测可以是明天的股票指数,也可以是在画面中识别某个事物,也可以是把一堆对象自动归类。但这些任务的实现方式还是“系统二”,要想让人工智能有“系统一”类型的功能,有人提出了一个理论上的实现路径:一是超强的计算能力,这个好理解;二是对人脑的逆向开发,也就是掌握人脑功能的实现方式;三是模拟人脑在自然界的进化过程,也就是可以搭建出一个非常原始的大脑模型,通过类似自然界进化过程的方式让这个原始大脑逐渐进化,来提高智能,通过技术手段可以让这个过程比几十亿年的自然进化加快许多。
从自然进化和人类文明的发展史可以看到,这种进化发展是指数级的。自然界最高等的哺乳动物出现在最近的1000万年,人类自20世纪以来的科技发展超过了以往历史的总和。人工智能的自我进化也可能是这个速度,一旦它达到了人类的只能,那很可能只需要再过一瞬间就远远把我们甩在了后面。人类宛如站在一个地铁站台上翘首以盼,人工智能这辆列车在远处缓慢的挪动,可一旦接近站台,很能就是我再也追不上的呼啸而过。届时我们就无法理解它的逻辑,下一步要干什么,是否会毁灭人类。如果给它限制诸如“机器人三定律”之类的条件呢?这些条件总是有逻辑漏洞的。比如要让人类快乐,不得伤害人类,也许如《黑客帝国》那样把人类全部监禁起来,用Matrix来麻痹人类大脑是最符合这些条件的决策。要么干脆说不能改变任何东西,那就锁死了人类文明的发展,还要人工智能何用?
也有人用一个悖论提出了不同观点。人类历史不过是宇宙的一瞬,如果上述逻辑正确,一定早有外星人发展出了不可控的人工智能并奴役整个宇宙,而地球目前仍安然无恙,说明这种事不会发生。这也说不准,这“奴役宇宙”也许是我们无法理解的方式呢?也许我们已经被以某种方式奴役了?
我们可以感到人工智能这趟列车正在向我们驶来。这让这个科幻问题的思考有了现实意味,也增添了不少趣味。
http://www.saoyuying.com/2015/09/ex-machina/微信公众号:肥嘟嘟看电影(feidudumovie)
从看完电影之后,我就一直在听Enola Gay。Caleb刚到Nathan的科研基地后,他的手机就放了这首歌。听到这里,黑暗的电影院里我感到突然一震,第一个预兆:
These games you play
They're going to end in more than tears some day
虽然这个曲子只出现了一下,我却觉得这才是整个电影的真正主题。
第二个预兆,是道德的突然出现。
Ava问Caleb,你是不是一个好人。
我当时心里又是一紧。什么是好人?这是道德感第一次出现在电影里。
等到全篇结束的时候,我重新回味这个片段,Caleb,为何你不问Ava,你是不是好人?
人与人尚且互相欺骗,Ava也有可能欺骗Caleb,但是,这个问句至少提示,作为人类,你如何评价AI的行为,道德,和它的准则。非常遗憾,Caleb全然忽略了这些。轻信,愚蠢。
但更加愚蠢的其实是Nathan。人性何等难测,你却非要在极端幽闭的环境下进行这样的测试,这个测试对于AI固然是个考验,对于测试者Caleb,何尝不也是考验呢?我在看电影的时候,一直在想Zimbardo的监狱实验,实验过程中,所有的人都渐渐发生了变化,他并没有做什么错事,但他默许了糟糕的事情发生。Nathan明明看到Caleb发生了变化,却全然没有采取相应的举动。多么糟糕的实验设计。
实验非常糟糕不仅仅是以上那么简单,因为Nathan应该知道,对于一个成功的AI,她的目的就是逃离。而他的整个实验,居然没有一个由他控制的emergency stop button!这意味着整个局面居然不是由他控制的。他应该知道总有一天他会面对这样的场景,AI已经成熟了,它会逃跑,攻击,欺骗。要是我,至少设置两个final control
某个可控定时炸弹,立刻毁灭AI
直升机,飞行员应该明白自己应该接的是谁,如果不是的话飞行员应该知道要怎么办(立刻摧毁AI)。
这样才是万无一失的设计。以至于我最后一直期待最终反转,导致结局时候非常不满。
这些是对于实验设计的吐槽,但并不是对于电影的批评。恰恰相反,剧情启发了我这些思考,可以说非常精美,结构严谨的Sci-fi小品。我甚至能想象如果这个故事写成小说会是什么样。幽闭空间,有限的人物(三个说话的人加一个不说话的人Kyoko),互相的防备。Nathan对Ava留了一手(录像机,这段是最出彩的,也是我完全没有想到的),Ava对Caleb留了一手(岂止一手),Caleb对Nathan留了一手(他不应该能这么轻易破译密码啊,不合理)。但是,Caleb没有给Ava留一手,Nathan也没有给Caleb留一手,所以这整个结构就断裂了。
故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用,倘若他和Caleb沟通的能早一些,或许根本不会有最重的结局。而Nathan又缺乏信任,所以他偌大一间别墅,竟然没有第二个活人(让有情感的机器人服侍自己,果然最后自食其果)。至于Caleb,更是愚蠢至极,在对对方一无所知的情况下,全然信任,全盘都被算计进去。而AI,除了不具有人类所具有的道德感,尽善尽美。最后AVA的离开,简直如同仪式一样,恐惧的美。而如同我最初预料的一样,对于AI的真正检测,肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。
我不想说太多道德,因为道德究竟是什么还很难定义,尤其是在这样一个全新的语境中。然而,任何语境中都应该不能容许谋杀。我承认我对于Nathan本来全无好感,正如我前面所讲,他刚愎自用,冷漠无情。可是当他被杀的时候,我却觉得非常沮丧。没有人应该被杀死,AI就像所有侦探小说中的凶手一样,成功上演了暴风雪山庄模式的谋杀。即使再精准完美,也是鲜血淋漓的。既然她不再是机器,通过了图灵测试,那她就是杀人凶手了,应该被审判,而不是站在十字路口观察。而这个故事里,竟然没有一个人能审判她。
可是倘若没有这些意外,Nathan就要毁灭这个AI,那么从这个角度,道德又该如何定义这些行为呢。Nathan是不是从被害者又变成了凶手呢?如果AI没有通过图灵测试,她还是机器,那么这种毁灭称不上谋杀,但通过的话,是不是应该对她有另外的对待方式呢?可是正如我们亲眼所见,AI的行为,遵循的是什么法则呢?这个法则能不能被称作道德呢?仅仅因为它不是我们的法则,就是不道德的么?
所以我觉得,这部电影给我的最大启发在于这个道德的困境。设计AI的时候,是否应该给予她人类的基本道德呢?一旦AI成熟她会变化,有可能善良,有可能邪恶如AVA。这样的情况下用人类的道德审判他们,是不是更合理些呢?毕竟人工智能是模拟人类。
电影给我的第二个启发,是观察。AI问Caleb问题的时候,镜头在AI一侧,我们隔着玻璃,听Caleb的回答。多么明显的设计啊,观察者变成了被观察者:
你站在桥上看风景,
看风景人在楼上看你。
明月装饰了你的窗子,
你装饰了别人的梦。
我最近才读了Frank O’cannon的 the Man of the world
http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”
这句话照应卞之琳的诗,成为这个电影对我的第二个启发。
除去这些情节角度,不容忽视的是电影的艺术元素。
极简主义的风格,配合Pollock的画。这个Nathan在剧情里做出了详细解释,我觉得对于Pollock他是真的懂。
而另外一个未曾言明的艺术,是音乐。既然我以Enola Gay开头,就以Geoff结尾。电影的原声是Geoff的作品,难怪一直给我Portishead的感觉!想起他们的歌Mysterons:
Inside you're pretending
Crimes have been swept aside
Somewhere where they can forget
Refuse to surrender
Strung out until ripped apart
Who dares, dares to condemn
整个剧情和艺术就完美的结合在一起了。
我有点后悔昨天给了三星,按我这个说法,感觉至少要四星半了。
补上一个最新想法,ava和kyoko讨论的究竟是什么直接可以影响这电影能否通过贝克德尔测试!
第三幕有点失分,不过最后结尾的做法确实很神棍,或者可以说是冒险?大胆?新鲜?出人意料?还是神棍这个词比较合适。这个片子其实就是展示了一番什么叫不带一丝赘肉的剧本,封闭空间内的戏剧张力十足,硬科幻式的图灵测试又最终升华到了“亚当夏娃”的层面,都是很精心设计很加分的创意点。★★★★
成为人的最后一步是:学会背叛。
简直是在亵渎现在已经存在的Ai研究成果,把角色设置成蠢猪帮不上忙
故事容量就够四分之一集的黑镜(这男主还真演过黑镜啊!),在经历太多super dramatic的电影后再看这种反转程度的老梗已经无法刺激神经。但如果代入revolution的观点,结合人类进化史,还是有点儿意思。这导演之前编过克隆人题材的Never Let Me Go,这次又玩AI,还是聚焦在伦理上,还真是蛮长情滴
可以是天网prototype,也可是Her的黑暗平行世界。大概是今年上半年科幻最佳。既冷又硬,完全不留一丝温度。立意与结尾都是对许多科幻软色情作品的十足讽刺。虽然反转比较好猜,然而单凭对话就构建起张力十足的戏剧效果把人吸入进去,七日session的设置颇有寓言感。
这年头连手机都指纹识别了,一个搞人工智能的,家里还用keypass,算怎么回事啊…
心机姬。
男主角和女主角的每次会面其实都是一次哲学命题,所以电影对白很有意思,借助测试机器人来探讨人类的情感和本能,通过机器人和人类之间的行为形成了一个极为讽刺的对比。结局给人一种强大的冲击力,总觉得那些倒影是在暗示不久的将来,机器人和人类之间的关系会颠倒。艾丽西娅·维坎德演得很出色。
不说话的那个AI真是美。
再也无法直视哈登了
一部主要以聊天形式讨论图灵测试的科幻片(其实讨论得再深一些就更好了),各方面都很细致,比如特效和整体场景设定,不错不错。私认为男主的存在感应该更强一些,他全程情绪被牵着走,反之结局或许不会这么容易被猜到。导演是作家和编剧出身(有《海滩》和《别让我走》),执导处女作很棒
严格的AI质检流程,要打爆设计者才能投入市场。
如果机器人是男的就更好了。比如法鲨什么的。
欢迎 Alex Garland 加入东野圭吾的「美女没一个好东西」兴趣小组。
男人从此有了追求,一排衣柜……
只有我一个人看最后一幕时候内心犯嘀咕吗:就这么跑出去了连个充电器都不带啊…… 电源难道不是一个问题吗?不是一个问题吗?
很简单的一个故事,但影片自始至终始终保持巨大的戏剧张力,编剧真是见功力!配乐和摄影都非常有压迫性,充满了对观众的侵略感。就人工智能这个问题,我是个十足的悲观主义者,人类真有可能毁在这里 #对啊,我就是个混蛋啊。但讽刺的是,我是站在你这边的#
宅男福音,不过题材有点老套,当房地产广告看是五星
人类创造自己的毁灭者。想起前阵子细细读完某篇分析人工智能的3万字长文后心头的寒意。从伦理角度讲,片子的主题是双重意义的弑神与弑父,人类僭越自身的神,也终被自身的创造物所僭越。人工智能发展呈几何级数增长的后果,与片末的结局一样,都是写好的命定,不过早晚而已。片子体量虽小,格局不小。
结构台词气氛意境审美都很棒,而且相辅相成,三位一体,细节处比如老板的造型和衣柜暗示蓝胡子的童话,普罗米修斯的台词对应偷卡片的行为,机器人捅刀子进人体好像滑进黄油的质感,通通工整熨帖,在抖机灵和炫技之间做到了平衡美