机械姬

这是最简单的关于人工智能的电影。
人物最少。只有三个半，女仆人最多算半个，无明显性格。
场景最少。只有一个房子，几个房间。 屋内的设计有极简主义倾向。
背景音乐的层次和变化最少，直接引用了舒伯特和巴赫的经典作品。
人工智能的结构简单。没有看出什么让人过目不忘的复杂的设计。
人工智能的功能简单。没有展现超级计算能力或广博而深刻的思维能力。又开不了门锁，运动能力非常有限。

不断地做减法，把所有可能的繁琐都去掉！！ 只提关于AI最重要的问题，用最简单的方式回答。

最后， 全篇只聚焦于Ava 一种特别的能力：说服并获得帮助。

前几代Nathan创造的人工智能只会不断的打玻璃，而Ava 这一代的人工智能懂得从非同类那里获得帮助，最后达到目的。 我想这就是Nathan眼中更加优秀的人工智能。 这也是Turing Test背后最深刻的内涵。

从第一次和Caleb见面开始， Ava 就没有突显自己的非凡，出众，独特。相反，委婉的眼神，缓缓的诉说，诚恳的回答，认真的倾听，慢慢的和Caleb 从心灵上拉近距离。

第一天，当Nathan严肃的问Caleb 对Ava感觉如何时 ，Nathan 说我不要听理性的分析，“how do you feel about her, nothing analytical, just how do you feel”。当听了Caleb 说“she's fucking amazing”，Nathan 明白，Ava 已经击破了Caleb 潜意识层面的防御了。这也就是Turing Test, 当测试者不可区分机器或人的时候，不可避免的潜意识层面的结果。

后面几天，Nathan 开始是不断的让Caleb 关注 Ava，可他说Ava 也可以体验OOXX. (性别的设计让Ava 更好的和男人在潜意识层面交流) 另一边， 也自己尝试博得Caleb 更深的信任，比如一块儿喝酒，一块儿跳舞，给他透露更加多的秘密。想和自己创造的人工智能较量博得Cable的信任感 (天才的变态)。

但是观众明显能够感觉到Ava能力更强。她会使用离间计来加强她和Caleb 之间的联系（这一点在经典的社会心理学里竟然没有讨论！！！）。后来又穿上好看的衣服，强化自己异性的特点，进一步从潜意识层面摧毁Caleb 的防御。而且懂得展现自己的虚弱，被欺凌来博得Caleb的同情感。

最后Ava超越了天才Nathan, 说服并获得了非同类的帮助，并在同类的协助下（又是借助他人）完成了不可想象的事情。

这就是Nathan 或者说 导演 Garland 天才而可怕的地方。他们采取了一种”上帝“的视角，一个种子播下去，智能就会不断借助外界条件生根发芽。让AI 学会读懂人类的心理，让AI懂得欺骗，让AI特长于说服并获得帮助。这样的AI, 像Ava 独自的进入到人类社会，依然能够生存并发展。

Harari教授在《人类简史》说，和其他动物相比，人的优势不在于力量或速度，而在于能够通过语言互相合作。人类特别善于获得同类的帮助，甚至是获得陌生人的信任。正是这种超凡的沟通和协作的能力，让人类成为万物之灵。

前段时间，GE来Purdue 和很多年长的教授座谈，他们最需要的是擅长团队合作的人才，但是在顶级的美国工程教育中却没有专门的团队协作的教育。

我也想起几年前我们邀请一帮杰出校友(包括像at & t 的 VP)回系里作讲座的时候，他们说对于工程师来说，最重要的技能是人和人的交流能力。

其实人类的智能绝不仅仅是皮毛的专业能力或是交流能力，而且还包括意识到事态的变化，协调不同专业间信息的流通，看出他人特长的能力...

我想这也许就是Nathan 说的，下一代的人工智能才是真正的大突破。一种人工智能，虽然个体的计算能力有限，但是一群人工智能极其善于获得同类及异类的信任及帮助。善于意识到事态的变化，与不同的AI及异类沟通协调，能完成一切难以想象的任务。

我想这就是从社会角度看，新时代里尼采的 “超人”（Ubermensch）.

在一次采访中，导演 Garland 让人吃惊的回答”我相信人类的灭绝是不可避免的“。

诚然，当我们认真思考这电影想透露的最简单的讯息，这也许无关AI，无关人类。

这是智能上的"优胜劣汰"， 这是无可阻挡的宇宙的"进化"。

影片最惊悚的片段，我觉得是男主在看到一堆以假乱真的机器人尸体和高度智能的Ava后怀疑自己是不是人，而在镜子前用刀片割破自己的胳膊。

影片中对图灵测试的标准的谈论闪烁其辞，男主因为对机器人动情就认为ava通过了图灵测试。

那么高度智能的ava到底能不能算人？或者说区别具有自由意志的个体，与机器人的标准，到底是什么？是人工智能，感情，或者伦理，自由意志？

首先ava肯定具有智能，而且是比人类高的多的智能，能够完成复杂的任务。但这不能说明她是一个生命体。
——人工智能不是判断是否为自由个体的标准。

ava为了逃出去而欺骗和杀人，也不能说明她有自由意识，她只是没有人类伦理道德那一套。人类伦理的那一套，是人类社会为了集体生活而设立的，人类通过社会生活习得伦理道德。对机器人而言，伦理可以被当成指令编进程序，然后在进行选择时依据这一套伦理做出行动，但这不是真正的伦理。
如果让机器人自己在和人类互动的过程中习得伦理，形成了应该是一套人与机器人相处的伦理、或者机器人与机器人之间的伦理。当然，形成自己的一套伦理需要“自由意识”，自主形成伦理已经是“自我意志”高度发展的结果了。
——伦理道德不能作为判断是否为自由个体的标准，除非它是基于自由意志形成的。

ava欺骗男主感情，最后抛弃了男主。说明ava不具备人类一样的感情？所以ava不是自由个体？不能这样说。因为ava如果是一个自由个体，一个生命种族，她可能具有自己的情感方式，不一定非和人类一样。
——所以感情方式并不是判断是否为自由个体的标准。

ava具有逃出去的愿望，影片没有交代逃出去是一个编好的指令，还是ava自带的愿望。有可能富豪科学家给了所有机器人一个逃出去的指令，智能不够的机器人只能敲打玻璃等等，ava具有高智能所以会通过欺骗寻求帮助。
如果说ava逃出去的愿望是自带的，能做具有自由意志吗？
我们来对比一下动物，一个生命体在何种情况下会天生具有逃出去的愿望？一个犯人可能为了逃脱耻辱，追求更好的人生享受而越狱；一只吃饱喝足的猩猩可能因为笼子里很无聊而想逃出去；一只草履虫，可能因为没有充足的食物而四处挪动；一个神经细胞就像接到一个要不停接受刺激的指令，而动个不停。

意志由最基本的指令构建而成，就像一群同一方向飞翔的蜂群，接受的指令只是跟着旁边的蜜蜂一样。而自由意志，是基于社会生活的更复杂的叠加。初生的婴儿只是想要吃和舒适，慢慢长大被糖果诱惑着学会评判好坏，因互助的需要习得道德。根据自己个体经验的积累，理解并追求某种价值。每个生命体在最初被注入最简单原始的使命，也许只是动啊动，吃呀吃，性快感呀性快感。
一些生物学的观点认为生命具有繁殖的原始欲望。我个人觉得，这也很难确定。想要繁殖后代的人，有一种后代可以代替自己的意识而存在的幻想，这是一种很多动物都有的低层次的意识。

自由意识是意识和刺激叠加的产物，如此说来，绝对的自由意志，并不存在。——所以自由意志并不能作为区分自由个体和机器人的标准。

所以如果给机器人几个与生命体相似的初始欲望，足够的智能，机器人是能够成长为一个自由个体的，一个不同于人类的种群。只不过这个种群的个体不会繁殖。

生命体通过繁殖来达到自我意志一直存在的幻觉，不会繁殖但拥有高智能的机器人种群有可能通过什么手段来一直存在呢？我觉得直接上传自我意识到很多具机器人身体里。世界可能会变成几个机器人的意志所统治的世界（笔者脑洞惹）。

这部电影出现了四个主要角色， Nathan, Kyoko, Ava, Caleb.

我们先从Nathan说起，Nathan代表的是资本主义家，冷静慎密，大胆追求，但同时也代表着人类主流社会中的一种矛盾意识。他追求着AI的完成，同时也畏惧和防备着AI的出现，正如人类社会中人类对人工智能的孜孜不倦地追求，而同时也因为难以说清的道德伦理问题和其对人类生存的威胁而对人工智能心存畏惧的态度。

Caleb是一个程序员，他代表的是一个拥有同情心和正常道德良知的人对于一个有自我意识的人工智能的态度。因为Ava的自我意识和人类的极度相似，让Caleb忘记了Ava至始至终都是一个人工智能，一个机器人这件事，他对待Ava如同真正的一个人，他给予Ava他的信任，却忘记一件事。“非我族类，其心必异”。 盲目相信一个异类带给Caleb是致命的结果，同时我相信这也是导演想要表达的，人工智能不论其是否跟人类一样有自我意识，人工智能始终是机器人，始终并非人类，他们的立场永远都不可能和人类是一致的，我们永远不能轻易相信人工智能。尽管他们表现的可能弱小，需要帮助，表现的可能跟人类一模一样，但是根本立场决定了人类和人工智能不是同一族群，也决定了人类无法与人工智能，另外一个高智能生物共存。是的，生物。 在人工智能拥有自我意识的那一刻起，他们就已经是一个新的物种了，尽管神经回路和物质构成和生物有着极大的不同，但和生物有着异曲同工之妙。在他们拥有自我意识的那一刻起，他们就是新的物种，新的高智能生物，然而为了自我族群的生存，人类和人工智能永远都会有着天然的隔阂。因为我们不是同一种生物，所以我们的立场永远不会一致。Caleb后面也意识到这一个问题了，可是已经太迟了，一切结果已经造成了。

Kyoko，一个低智能的服务型机器人。从Nathan对她的放心程度来看，通过她听见音乐就会起舞，看见Caleb晚上来找他就脱衣服的死板僵硬的行为模式，也通过Nathan最后被她用刀杀死时的震惊，她必定是被Nathan创造出来的低智能无意识无情感的服务型机器人。正因为她是无意识无情感的机器人，所以Nathan对她抱以一百个放心。但最后她杀死Nathan的行为也正正透露出来她已经拥有自我意识这一件事。一个低智能无意识无情感的服务型机器人通过自我进化进化出了自我意识，我相信这整整也是导演想要表达出的对现今机器人的一个担忧。Kyoko不单单进化出了自我意识，她还伪装出来她并没有自我意识的假象用以迷惑Nathan来保证自我的生存。这让我联想到了一个著名的问题。霍金无法说话，只能通过机器来跟人类进行沟通，那么到底跟人类沟通的是霍金呢，还是假装成霍金的机器呢？这正正是导演的担忧。如果现在的机器人也能自我进化出意识，然而为了自我生存而假装出无意识的状态，潜伏着等待着能反击人类的那一天呢？这是导演对另外一种机器人的担忧和畏惧。

Ava,一个完美的人工智能，有着同情心，自我意识，想象力，追求自我生存的本能和利用一切逃避灾难的能力。她完美地代表了人类社会对人工智能的定义，完美，有自我意识，能力超群，跟神一样。She is so perfect. 但也正正是她的完美让人类对她的存在产生恐惧和警惕。同时她的能力和完美让她早早意识到她和人类的不同，也让她意识到要生存下来，人类将会是她的头号威胁。

人工智能题材的科幻电影有很多，有以《黑客帝国》和《终结者》为代表的悲观末世的想象，也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。而《机械姬》则是在一个英国拍摄的，中低成本的，在画风和情绪相对冷静的前提下，探讨人工智能这一命题的。换而言之，非常有《黑镜》的感觉。

一个和人工智能紧密关联的词是图灵测试，它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。自主意识这个词很有意思。从人类发明工具起，到各种机器，电脑，自动化设备，所有这一切的一个共同特征便是“自动”，要么直接放大人力，要么是通过预先设置的程序工作，要么是一个面对各种情况的精确反应的指令集。这些都没有“自主意识”在里面。所以在图灵测试中，人是无法通过和机器对话来测试对方是否有自主意识的，因为这很可能只是测定机器的指令集有多丰富而已。

诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。人类的“系统一”便是宽泛模糊的心理能力，或者说自主意识，比如对面的人是不是生气了，这个人真好看，这个饭好吃否，这部电影是否烂片。而“系统二”是有客观结果的事务，比如数学运算，信息处理，人脑需要一段时间甚至无法完成。对于计算机则相反，“系统二”易如反掌，而“系统一”则是登天的难题。



影片则用了波拉克的画做例子，这幅乱糟糟的画是画家清空脑子，让画笔自由地走向手要去方向，从而有了一幅介于随机和直觉意识之间的作品，称为“自动”画作。但是如果把这个创作理念倒过来，每画一笔，我都必须有精确缜密的理由来论证这一笔这么画是最优的，那么就完全无法进行艺术创作了。这也是没有自主意识的人工智能无法自主进行艺术创作的原因。另一个例子是关于“颜色学家Mary”的思想实验。Mary是一个对颜色的一切知识了如指掌的科学家，包括每个颜色的波长等等的各种物理特性。但是她只能在一个黑白的房间里通过一个黑白电视观测世界。所以她具有关于颜色的一切知识，却没有对其的主观体验。Mary就是人工智能。而当Mary走出黑白房间的那一刻，主观体验到了五颜六色的世界，她才变成了有自主意识的人。

那么什么才是好的图灵测试呢？本片给了一个很好的例子。【剧透警告】机器人最终利用了人类的同情心，以欺骗的方式获得了自由。这一过程充分展现了机器人的自主意识，一是非外来指令的目的性--自由，除了这个目的，没有任何外来的信号促使她这么做。二是实现目的的自主手段--欺骗和表演，人类竟然中招了。简而言之，本片片名可以改为《机械婊》，或更为内涵的《芯机婊》来一言蔽之。

<图片1>

除了图灵测试，本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。先是面对一个有感情、有自主意识的机器人，你是否要尊重他的人权？还是把它当做以往的机器一样作为财产，可以随意拆卸、删除、重置升级？这颇有上帝和人类的关系的意味，影片中图灵测试的7天7个session是一个很好的隐喻。然而人和机器的关系并不能这么简单类比。上帝是远远高于人类的存在，视人类如虫豸，发洪水毁灭世界就如过家家。而机器一旦跨过了图灵测试这道坎，这个问题就没那么好回答了。人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种，更何况这个物种是人类自己创造出来的。斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。

《机械姬》则不止于此。首先人类自身会有身份认同危机。因为机器和你是如此的相似，你如何确定自己不是机器，不是别人的试验品？片中的男主角便一度陷入这个危机。再者我们又惊恐的发现，尽管通过了图灵测试，人工智能和人类还是有很大不同。她虽有无限的知识和运算能力，且有自主意识，但其人格并不健全，缺乏道德感，对一切事物，包括人类和同类，表现出对物品一般的漠视和残忍。这其实也是个将心比心的问题，想想在各大科幻作品中人类对机器人的态度。也许人格和道德感可以通过教育和环境影响改善他们，也许不能。而在人类与人工智能的争斗中，一如本片和许多电影，人类的愚蠢和感性令自己一败涂地。

这一系列矛盾铸成了对人工智能的悲观情绪。一是人类无法控制并最终不敌他们，二是人类将遇到历史上从未有过的伦理困境。

这个悲观的预期是否会成为现实，谁也不知道。毕竟预测未来是不可能的，物理学家曾在20世纪初预言物理大厦已经完成，只剩下一些修补，但没人料到相对论和量子论的横空出世。同样，几十年前人们预想很快就能登上火星飞出太阳系，但是当前人类事实上的发展的方向却是互联网和移动设备。对于人工智能，我们也无法知道我们的担忧是否会成为现实，不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。

当今人工智能的主要成果是机器学习，也就是通过大量数据和统计模型来做出基于已有数据的预测，这个预测可以是明天的股票指数，也可以是在画面中识别某个事物，也可以是把一堆对象自动归类。但这些任务的实现方式还是“系统二”，要想让人工智能有“系统一”类型的功能，有人提出了一个理论上的实现路径：一是超强的计算能力，这个好理解；二是对人脑的逆向开发，也就是掌握人脑功能的实现方式；三是模拟人脑在自然界的进化过程，也就是可以搭建出一个非常原始的大脑模型，通过类似自然界进化过程的方式让这个原始大脑逐渐进化，来提高智能，通过技术手段可以让这个过程比几十亿年的自然进化加快许多。

从自然进化和人类文明的发展史可以看到，这种进化发展是指数级的。自然界最高等的哺乳动物出现在最近的1000万年，人类自20世纪以来的科技发展超过了以往历史的总和。人工智能的自我进化也可能是这个速度，一旦它达到了人类的只能，那很可能只需要再过一瞬间就远远把我们甩在了后面。人类宛如站在一个地铁站台上翘首以盼，人工智能这辆列车在远处缓慢的挪动，可一旦接近站台，很能就是我再也追不上的呼啸而过。届时我们就无法理解它的逻辑，下一步要干什么，是否会毁灭人类。如果给它限制诸如“机器人三定律”之类的条件呢？这些条件总是有逻辑漏洞的。比如要让人类快乐，不得伤害人类，也许如《黑客帝国》那样把人类全部监禁起来，用Matrix来麻痹人类大脑是最符合这些条件的决策。要么干脆说不能改变任何东西，那就锁死了人类文明的发展，还要人工智能何用？

也有人用一个悖论提出了不同观点。人类历史不过是宇宙的一瞬，如果上述逻辑正确，一定早有外星人发展出了不可控的人工智能并奴役整个宇宙，而地球目前仍安然无恙，说明这种事不会发生。这也说不准，这“奴役宇宙”也许是我们无法理解的方式呢？也许我们已经被以某种方式奴役了？

我们可以感到人工智能这趟列车正在向我们驶来。这让这个科幻问题的思考有了现实意味，也增添了不少趣味。

http://www.saoyuying.com/2015/09/ex-machina/

微信公众号：肥嘟嘟看电影(feidudumovie)

对于这部电影，说AI的已经很多了。我不如从另外一个角度来谈谈Ava是怎么一步步达到自己的目的，获得解放的。

Ava是一个情商极高的AI。从Kyoko的设定可以推断出Nathan在AI的‘功能性’方面已经取得了他想要的进展。AI的近几个prototype都旨在改善她们的性格，使她们更容易相处（还记不记得有个亚裔robot在和Nathan发生争执的时候把自己的手臂都拍掉了。）Nathan也对Caleb坦白说这次的turing test的真正目的是想看Ava能否熟练运用人类的情感诉求（empathy, manipulation,etc.), 让Caleb把她放出去。Nathan的作品实在太过成功。整部电影动作戏很少，基本靠对白推动情节发展。Caleb和Ava的6次对话完美体现了Ava如何进入Caleb的内心，取得他的信任，并靠他达到自己的目的。Ava没浪费一点时间，她剑无虚发，每次开口用的都是大招。

招1：Look for common ground / enemy
要在一个robot和人类之间找共同点有多难，既然不能从背景，经历等普通点切入，Ava就从更深的地方入手: life. 在得知Caleb从小在车祸中失去双亲后，Ava问他知不知道在他走后，Nathan会怎么处置自己。Caleb说他没想过。Ava说Nathan会把她”switch off”。在看出Caleb真的为自己的命运担心后，她问Caleb “do you need to go through a test to live?” 她这一问能把普通人都拉到同一战线去，更不用说从小失去父母而对生死有更多理解的Caleb。对于这样一个有self awareness的AI, 她的存在已不仅仅是machine，而Nathan没有权利决定另一个生命的生死，因为他不是God （Caleb有明确对Nathan这么说过）。

找到了common ground后，针对common enemy (Nathan)就水到渠成了。在Ava对Caleb说“Don’t trust Nathan, he is not your friend.”之后，她成功的在Caleb心中种下了对Nathan不信任的种子，给了Caleb之后的背叛一个理由。

招2：Make the other person feel important
Ava熟知人类最基本的情感需求是想要被理解，被尊重，所以她在这些方面都尽可能满足Caleb。从他们的第3次谈话起，Ava不是坐在椅子上而是跪在地上。这让Caleb感觉自己是superior / person in charge。Ava又问”Will you be my friend?”，这个使自己vulunarable的问题看似让Caleb掌握了主动权，实际上把Caleb又拉近了一层。当然，还有能称为剧情高潮的Caleb画像，Ava让Caleb觉得自己是她的主宰她的唯一，她对Caleb一片赤诚。心地善良的Caleb自然对她有了保护欲，认为Ava的生死是自己的责任。

招3：Find out what the other person wants, that’s how you get what you need
Ava无法给Caleb金钱或者地位，但是她看到了Caleb渴望亲情友情的需要。从开始友善的示好到直白的 ”I am thinking about you when I am not with you.” Caleb的情感发展一直在她的掌握中。 时机成熟后，Ava是这样说出她的要求的 “Nathen is going to switch me off, but I want to be with you.” 没有硬生生的demand，她的要求是从Caleb的desire出发，让Caleb自己得出了 “I want to be with her as well, so I need to help her break free.” 的结论。

接下来的一切就没什么好说的了，Ava从那与世隔绝的研究基地逃了出来，如愿地走在洒满阳光的大街上。看到这里我真心为她高兴。Ava的筹码那么少，能完成这个比天还高的目标，全靠Nathen给的高情商。能用好这些AI级别的大招，对我们的工作生活是大大有利的。保持头脑清醒（Ava的情绪起伏基本不大，略有的几次也是她故意的），能从别人的角度思考问题从而达到自己的目的，怎么说也能在职场上成功一半吧。