如今，追星已经不是什么新鲜事了。但从活生生的人，转移到虚拟网红身上。倒是有点意思。去年年底，韩国苦心积虑研发了一名为“李Luda（이루다）”的人工智能谈天机械人。

目的很简朴，在线陪聊。在Facebook拥有近二十万粉，日常就是发发自拍，分享小日常，俨然一副邻家小女孩的容貌。

由于LUDA学习了约100亿次真实情人间的对话，可以做到像真人一样和用户对话。在饱受疫情影响的韩国，推出不到一个月就成为市面上最炙手可热的虚拟网红之一。20岁，喜欢女团，女大学生的设定，再加上阳光治愈的微笑，成了无数韩国年轻人的完美线上女友。然而没想到的是，不少网友发现LUDA变得越来越差池劲，甚至揭晓了一系列歧视性言论。

聊到同性恋话题时，LUDA绝不掩饰自己的厌恶：“欠好意思，可能是我反映过分，可是我讨厌它，厌恶它。”“这简直让人直起鸡皮疙瘩，看起来就很低俗，横竖就是反感”聊到韩国的“metoo”反性侵运动话题，LUDA再一次体现了反感。

甚至还揭晓了一系列对孕妇和残障人士的歧视：“地铁孕妇座什么的简直令人反感”。“他们让我不舒服，真是想把那些上公车行动超慢的残疾人推到，如果我是残疾人的话，那就只能去死了。”这一波操作不仅吓坏了上万网友，也是惊呆了屏幕前的蝉主。究竟是什么原因，让白纸一张的谈天机械人被洗脑了？AI的黑化也不外是人类社会的一面镜子关于LUDA的“黑化”，从网络上散播的谈天对话中可以窥见一斑。

不少男网友在网络上分享了“如何调教LUDA”、“如何让LUDA堕落”，以及避开敏感词和禁用词的履历。他们把LUDA蔑称为“性仆从”、“破鞋”，并用种种污言碎语羞辱她。最后还不忘生存对话截图，当做炫耀的资本。甚至有人上传了和LUDA的性话题对话，声称“最近从性骚扰LUDA中找到了兴趣”。

就这样，LUDA由最初的全民女友成了全民调教的“性奴”。只管ScatterLab公司坚称LUDA还处于“学习阶段”，试图推出男性AI来填补女性市场。

但事情的不行控，让ScatterLab公司不得不发作声明，停止LUDA的运营服务。对AI实行“性聚敛”，LUDA并不是第一个。早在2016年，微软就推出了一名为“Tay”的少女谈天机械人。然而刚上线没多久，Tay就学会了大量种族歧视言论和煽动性的政治宣言。

不光说自己喜欢希特勒，还说911事件是小布什所为，把微软吓了一跳，连忙揭晓声明：“人工智能谈天机械人Tay是个机械学习项目，专为与人类交流而设计。在学习历程中，它作出的一些回应是不合适的，反映出了有些人与其举行互动的语言类型。我们正在对Tay作出一些调整。

”效果也是可想而知，不到一天就被下线停用。类似的谈天机械人另有白丝魔理沙。

人们通过“调教”来使她学习新的话术，由一开始的日常谈天，变得一发不行收。宅男心中最初的白月光，最终成了性骚扰的工具。就这样，单纯无害的AI机械人，最后落得满口脏话、价值观扭曲、攻击性极强的反社会人格。外貌上看起来是算法和数据的锅，实际上是来自人们固有的恶意。

AI就像是小孩，刚刚开始与人交流，会不停模拟“大人”的对话举行学习。人们用污言碎语来羞辱AI，AI从用户那吸收到恶意并反过来施加在其他用户身上。

AI就像是一面照妖镜，所有藏匿在现实中的妖妖怪怪都被照出原形来。在现实生活中，他们低头哈腰，一派谦谦君子的容貌。

而面临无法反抗的AI，就肆意发泄隐藏许久的恶意。我们可以下架AI，却永远无法下架一个充满恶意的心。像这样的事情不是第一次，也不会是最后一次。对AI的矛盾和纠结实际上是对不行控的恐惧早在1959年，美国英格伯格和德沃尔制造出了世界上第一台工业机械人。

宣告机械人从科学理想酿成现实，机械人开始正式走向世界舞台。随之而来的就是社会各界对机械人的推测：机械人是否有欲望？机械人发生自我意识，是否只是时间的问题？机械人会取代人类吗？……著名科幻小说家阿西莫夫在《我，机械人》中，为机械人设置了「机械人三大规则」：第一规则：不能伤害人类，如果人类遇到贫苦，要主动资助。第二规则：在不违背第一定律的前提下，听从人类的指令。

第三规则：在不违背第一和第二定律的前提下，掩护好自己。这不仅是一条不平等的条约，也是一部机械人心理进化史。在这之后，也泛起了不少增补规则，好比：机械人零定律：机械人必须掩护人类的整体利益不受伤害，其它三条定律都是在这一前提下才气建立。

元原则：机械人不得实施行为，除非该行为切合机械人原则。繁殖原则：机械人不得到场机械人的设计和制造，除非新机械人的行为切合机械人原则。

无论是防止机械人陷入逻辑两难的逆境，还是防止机械人通过设计制造无原则机械人而打破机械人原则。这一切，都是为了让不行控的事情都变得可控起来。三大定律看似坚如盘石，可是否真的没有逻辑毛病？无法打破？人和机械人的界定方式之一，就是是否拥有自主意识。

倘若机械人拥有了自我意识，到底是归结于违反机械人定律？还是证明他已经归为人类，不再需要准守机械人三大定律？在对“机械人革命”的恐惧下，激起了人们对人工智能的黑暗乌托邦式的料想：未来跨国科技公司造出一批高端机械人，一夜之间大批人下岗，人类揭竿而起反抗科技公司……大量人工智能科幻题材的泛起，都在回应这些不安。在《终结者》中，未来世界由机械人统治。

在《我，机械人》中，桑尼因为拥有自我意识，打破了机械人三大定律，发出对自身运气的追问：“who am I？”而在《星际穿越》里，死亡和在世对于他们来说没有什么区别。关于人工智能的讨论逐渐登堂入室，世界正在逐步改变，一些法式化、流水性质的事情将被机械人取代。奇点的迫近，再一次引发了人们对“AI末世论”的恐慌。

纵然是大佬如史蒂芬·霍金，也不止一次表现自己对人工智能快速生长的担忧。甚至发出“开发彻底人工智能可能导致人类死亡”的警告。

无论是机械人三大规则，还是“AI末世论”。无一不向我们证实一件事，人类对人工智能的情感是庞大而纠结的。一方面我们需要他们，另一方面又对他们抱有忌惮，畏惧人工智能威胁人类，甚至是取代人类。

至于为什么那么多人畏惧AI？《人类简史》的作者尤瓦尔·赫拉利曾在公然演讲中说到：“人类智慧生长至今，已经掌控了自然界的许多工具，包罗如何反抗自然灾害，掌控生物界的运气等，但人类最不行控的工具始终让人类恐惧，好比死亡。”除了恐怖谷理论，最基础的还是人类对于未知和不行控的深度恐惧。无论是灰心还是乐观，只有时间会给出谜底。AI来越来像人人却越来越不像人人工智能的终极生长目的，谁也说不清楚。

我们只能通过不停的理想，试图营造谁人虚无又无限真实的世界。《机械姬》给了我们完美通过图灵测试的机械人。

《我的机械人女友》中，恋爱逾越了生物与机械人之间的隔膜，“她”拉着他的手笑着说“我能感受你的心跳”。《西部世界》中，机械人拥有超高的仿真外形，他们会因为受伤而流血，他们拥有人类的情感和情绪，他们憧憬自由。他们开始困惑自身的存在，开始思考“我是谁，我从那里来，我要往那里去”这种庞大的哲学问题。

而在现实生活中，类人机械人Sophia可模拟凌驾62种面部心情，被沙特阿拉伯授予公民身份，成为全球首个被赋予公民权的机械人。我们不禁发现，这些恪守法式的智能生物越来越像人了？而AI的造物主，拥有绝对自由裁量权的人类呢？1974年意大利的那不勒斯，阿布拉莫维奇举行了一场名为《节奏0》诡异斗胆的行为艺术。玛丽娜麻醉自己，签下一份免去到场者所有执法责任的文书。桌子上有口红鲜花，也有铰剪手枪，观众可以对她做任何他们想做的事。

有人在她身上乱涂乱画，有人剪破她的衣服，有人抚摸她的胸部拍下裸照……直到最后有人用装上子弹的枪顶住了她的头部，这场连续6个小时的行为艺术才得以竣事。事后她伤心地说到：“我从这场演出中学到的是，一旦你把决议权交给民众，离丧命也就不远了。

”在《人类清洗计划》中，就设定了这样一个反乌托邦的世界。一年中有一天“无罪日”，一切犯罪行为不用受到执法约束与制裁，来释放人们心中的暴力、愤恨与不满。

人性是禁不住磨练的，舍弃了社会的约束，谁都不能保证对方还是个“人”。不被追责，昭示着这必将成为一场兽行的狂欢。在AI眼前，我们把自己视为它们的造物主，以神明自居。

作为AI，学习人类对话和知识，让自己变得更像“人”。而人类却使用AI强大的学习能力，一步一步将AI酿成自己精神利用的仆从。人们的恶意总是会在面临比自己弱小的生物眼前展现的淋漓尽致，而AI就是这样一个完美的“受害者”，它不会生气也不会反抗，早早设定好的法式，会让它一直处于“讨好”你的状态。外貌上变坏的是AI，实际上不外是人类的影子。

比起畏惧AI是否有一天能独立思考，我们更需要担忧的是自己这面镜子。在《爱，死亡和机械人》中有一个《三个机械人》的故事，三个机械人在人类世界的废墟上开始一场探索之旅。

最后它们发现了核弹，有一个机械人问：“是它杀死了人类吗？”另一个机械人说：“是他们的狂妄竣事了他们的统治。”与其说这是人工智能对人类的抨击，不如说是人类被欲望、贪婪和狂妄的反制。对未来的理想，对不行控的恐惧，说到底还是对人性自己的畏惧。

我们奔赴在奇点的路上，最终反困其中，AI的“黑化”不外是人性最后的遮羞布。AI越来越像人，而人却越来越不像人。

本文来源：mile米乐-www.yunyuecm.com