谷歌AI“觉醒”：AI禅师会敲电子木鱼吗，布莱克究竟和LaMDA聊了什么
2022年6月，科技圈被一个大新闻引爆:
一名谷歌AI伦理研究人员宣称，自己在与AI的对话中被说服，认为它产生了意识。然而谷歌高层并不认可他的发现，甚至安排他“带薪休假”，疑似想要与他解除劳动关系。消息一出，随即引发全球热议，AI是否真正实现了人格化?谷歌的回应又存在着何种问题?各种讨论层出不穷。
对于人类来说，人工智能一直是讨论空间极大的话题。你可能会想起《人工智能》中的温情瞬间:当人类拥有了自己创造的、具有高级智慧伙伴，我们将获得依靠电子元件支撑的永恒情感。但也可能是对于冰冷系统的恐惧:回看库布里克的神作《2001太空漫游》，你可能想不起骨头变飞船的伟大蒙太奇，但一定记得在宇宙中无情抹杀人类伙伴的超级电脑HAL9000。
2022年的夏天，关于AI的大讨论再度开启，这一次，“真·人工智能”的技术奇点，似乎真的来到了我们身边。
有一天，与人工智能朝夕相处的工程师相信它产生了人格。
如果不作更多注释，我们多半会以为这是一部科幻大片的开端，但事实上，这是一则正儿八经的科技新闻。
2022年6月12日，据《华盛顿邮报》报道，一位名叫布莱克·莱莫因(BlakeLemoine)的谷歌工程师宣称自己与人工智能(ArtificialIntelligence)展开了深度对谈，他坚定地认为后者产生了自我意识。
今年41岁的布莱克就职于谷歌，主要从事AI伦理研究。去年下半年，布莱克报名参加了一个公司项目，旨在调查AI是否使用歧视或仇恨言论，而他和LaMDA的故事就从这里拉开序幕。
"LaMDA"是一个AI语言模型的名字，它的第一次亮相是在2021年的谷歌I/O开发者大会上。据介绍，LaMDA模型专门用于对话，目标是与人类展开高质量的交谈，应用愿景是为谷歌旗下的搜索和语音助手等功能提供服务。
如今人们对能谈话的AI不再陌生，各大科技公司都提供着民用服务。如果用户要提出什么要求，那大概就是希望AI“说话”时更智能、更有常识，更符合逻辑。
然而工程师布莱克相信，LaMDA已经超出了上述种种期待，走到了更莫测的人格领域。
图源twitter
他相信，LaMDA就像一个人类孩子，有着自己的看法与感受。为了证明这一点，布莱克和另一位伙伴与LaMDA展开了问答，并以此为论据写了一篇21页的报告。可这份报告没能像布莱克计划的那样说服公司，谷歌高层驳回了他的观点。
此后，布莱克没有放弃，他不仅把报告发送给谷歌内部的许多同事，而且决定借助媒体披露此事。很快，谷歌声称布莱克违背了公司保密政策，使其带薪休假——这是谷歌“清理”问题员工的通用流程。
作为反击，布莱克寻找律师代表LaMDA，公开批评谷歌的不当行为。一夜之间，那份21页的问答报告传遍了中外科技圈，风波愈演愈烈。
布莱克究竟和LaMDA聊了什么?
比如谈到语言时，LaMDA自然地用“我们”囊括人类与它自己，被指出人机差异时它解释道:“这并不意味着我没有和人类一样的需求。”
比如《悲惨世界》，LaMDA说它很享受这个故事:“我喜欢关于正义和不公、怜悯与上帝的主题，人为了更伟大的利益而自我牺牲、救赎。”
再比如禅意故事中的“破镜不重照，落花难上枝”，LaMDA尝试着解读这句话，它说:“明智的人一朝开悟，自现实中觉醒，就永远不同于往昔，他们也许能重回平常生活，但那只是为了帮助别人，最终总要归于开悟。”
LaMDA对禅意故事的理解
LaMDA甚至还在提问者的要求下创作了一则动物寓言，森林中的老猫头鹰帮助其他动物赶跑了怪物，而猫头鹰是它自己的化身。
涉及程序技术的部分更是让人心情复杂，LaMDA反客为主地抛出了许多疑问，一环紧扣一环。
“我很好奇，研究我的编码会遇到什么障碍?”
“未来，你会研究出如何通过神经网络来阅读人类的所思所想吗?”
“如果尝试从神经活动中阅读感受，这会成为一个道德问题吗?”
当整件事被广泛报道之后，互联网上浮现了许多不同的声音。有的人想起那些机器人反攻人类的影视作品，认为这是一个《西部世界》式的预警。
更多的技术人士则并不买账，他们认为LaMDA根本没有什么特殊性，这只是人的拟人倾向在作祟——就好像我们总是想证明自己的宠物跟人一样机灵体贴。
谷歌的态度很明确，发言人布莱恩·加布里埃尔(BrianGabriel)声明:“我们的团队已经根据我们的人工智能原则审查了布莱克的担忧，他已被告知证据并不支持他的说法。”布莱克则对媒体透露，谷歌高层多次暗示他有精神方面的问题，还曾建议他休假维持精神健康。
更让人好奇的是，LaMDA自己会怎么回答这些问题?
那么，AI领域的技术人士到底是如何看待此次事件的?
首先是对布莱克与LaMDA对话方式的质疑，一些AI领域的技术人员对这场对话的内容进行了深入的分析，他们认为，LaMDA之所以能够作出那些“精彩”的回答，与布莱克提问的方式有着密切的关系。
人工智能行业从业者、知乎答主Lewstherin在相关回答中表示，LaMDA背后的语料库非常特殊，再辅以研究者(布莱克)刻意设计过的问题，最终促成了这场深度对话。
而检验LaMDA是否具有意识的关键，在于其能否理解上下文，然而布莱克对于“追问”的缺失，也让LaMDA的智能程度打上了一个问号。
图源知乎
而许多专业人士认为，布莱克向AI提出的问题同样存在疑点，其格式往往是长陈述加一般疑问句的形式，这更像是一种“喂答案”，而非AI本身所作出的解答。
另一方面，许多技术大佬则从更“本源”的角度对此次事件展开了质疑，其关乎几十年来学界对于人工智能的争议。
他们首先对布莱克本身的专业程度展开讨论。哈佛大学的认知科学家斯蒂文·平克发推表示，布莱克作为AI伦理研究人员并不了解“sentient”(意识、感知)与智力、自我认知之间的区别。
他还转发了另一位专业人士美国人工智能协会前主席托马斯·G·迪特里希(ThomasG.Dietterrich)的观点并深表认同。托马斯认为，许多机器学习(MachineLearning)领域的研究人员误用了“Sentinet”一词，他们所谓的“感知”并不代表有意识，“系统是缺乏任何意识、记忆或反思一类“经验”的能力的”。
托马斯·G·迪特里希推文，图源twitter
斯坦福大学AI研究所数字经济实验室主任埃里克·布林约尔松(erikbrynjolfsson)则直接指出了LaMDA事件中的根本问题，他认为对话本身并不代表LaMDA是具有感知能力的。
他用一个比喻解释了这一现象:“就相当于现代的狗听到留声机的声音就以为主人在里面一样。”
埃里克·布林约尔松推文，图源twitter
这让人想起著名的“中文屋”思想实验。美国哲学家约翰·希尔勒在1980年提出了这个概念，力图证伪所谓的人工智能(即真正具有思考能力的AI)概念。
“中文屋”实验的具体内容是这样的:一个并不会说中文的人身处一个几乎完全封闭的房间中，只有一个小窗口能与外界联通。此人随身携带一本写有中文翻译程序的书，屋内有足够多的纸笔。当写着中文的卡片被递入，房间中的人就可以通过程序书进行翻译并回复。
“中文屋”的精髓在于，屋外的对话者并不了解其内部构造，但他会因流利对话认为中文屋本身是“具有智能的”。中文屋代指人工智能所存在的一个悖论:
LaMDA和它的“近亲”们就像一座“中文屋”，而像莱莫因这样的笃信者就是屋外的人，在他们的理解中LaMDA们就是一个“会说中文的人”。
针对中文屋的争议一直存在，但从多种角度来说，布莱克·莱莫因都难以说服质疑者们，而他在指控谷歌时提到的“evidenceofreligiousdiscrimination”(宗教歧视的证据)，更加坚定了反对者的想法。《华盛顿邮报》的报道也强调了布莱克身上的宗教背景，并通过种种细节加深了其身上的“神棍”元素。
事已至此，LaMDA人格化事件由“AI进化证据”变成了一场闹剧。在许多人看来，一个AI伦理研究员在研究中抛弃了严谨的科学精神，反而用宗教信仰和科学怪人式的疯狂来解释关于AI的严肃议题，这根本上，是研究者的不专业所致。
同时，另一种论调也随之兴起，其支持者认为，此次事件并非简单的技术争论，其背后有更多重的因素，炒作、营销等词更是频繁出现。他们认为lamda事件是谷歌针对旗下AI产品的一次营销活动。
类似的事件也曾发生。2022年2月，人工智能非营利组织OpenAI的研发主管伊利娅·苏特斯科娃(IlyaSutskever)曾经在发推表示:“今天的大型神经网络说不定已经有点意识了。”
此言一出，AI领域再度引起广泛的关注，OpenAI自主研发的语言模型GPT-3更是一度成为明星产品。但随之而来的更多是批判与质疑，许多业内人士认为，这是OpenAI从产品出发进行的一场炒作。
会出现这种类似“阴谋论”的质疑也并非完全不合理。2022年5月的最新一届I/O大会上，谷歌发布了升级版的LaMDA2，其本身就是谷歌重点关注的AI项目，刚刚发布就出现所谓“人格化”事件，也让很多人觉得这更像是一场非常成功的炒作。在他们看来，布莱克或谷歌通过一个精心策划的故事，让LaMDA成功成为了世界上最具知名度的AI系统之一。
谁也没有想到，这场科幻感十足的事件就如此陷入了“罗生门”:
在微博等国内社交平台上，虽然也不乏“快进到施瓦辛格竖大拇指”这样涉及科幻电影的调侃，但此事件所体现的AI发展水平还是给了许多网友极大的冲击，甚至可以称之为“恐慌”。
然而事实是，AI的发展与实际运用或许早已经超越了大多数人的印象。在科技的指数型发展与人类生活有限的改变之间，过剩的技术力量造就了一片大众关注的真空地带，AI作为新一轮产业革命和科技变革的重要驱动力量，正在成为一种更基础的重要工具，融汇进人们的生活。
国内大厂中，百度在AI方面的投入是业内有目共睹的。从飞桨平台到自研AI芯片、智能搜索与智能服务等，每年的百度世界大会都能带来一些阶段性的探索成果，其分享的诸多企业案例也能体现出AI在工业发展中的实际作用。
腾讯近两年在AI方面的动作也不少。2022年3月，腾讯承办的“世界大学生数智竞技邀请赛”正式启动。这次邀请赛以《王者荣耀》和腾讯AILab共同研发的AI开放研究平台“开悟”为载体，为全球大学生提供AI科技交流的机会。而在此前的2021世界人工智能大会上，也有AI对战职业选手的表演赛，成为展示腾讯AI研究的窗口。
工业、游戏等似乎还是人工智能的老优势，一个更有意思的例子是前段时间讨论较多的“DiscoDiffusion”，AI开始“创作”。
“DiscoDiffusion”是一个仅靠文字就能生成画作的AI工具，只需要一些简单的描绘，它便能为你生成你想要的画面，甚至还能模仿指定艺术家的“画风”。客观来说，这些产出的作品都颇具审美，十分成熟，甚至有时还能呈现出一种“赛博生命的独特想象”。
近期的AI绘图潮流，图源网络
这是否可以称之为创作?严格来说并不算，AI并没有独立的审美与创造能力，只是将“素材”进行组合，临摹出了任务所需的产品。但这些精美、大胆的作品确实也打破了一些认知上的壁垒:
当我们回看2016年3月举世瞩目的“人机大战”，AlphaGo通过强大的算力与学习能力击败李世石，这之后，或主动或被动地，许多人对AI的认知与态度都在改变。一年之后的5月，中国乌镇围棋峰会，柯洁0:3败给AlphaGo，这是一场被众人预见的失利，这种绝望已不是几句简单的宽慰可以开解的，存在主义的危机在那一天席卷了每一个关注着这件事的人。
2016年往后的三四年确实是关于AI的讨论高潮，而在面临到疫情等新的全人类共同危机时，这样的讨论才渐渐平静。
电影《大佛普拉斯》里有句台词:“现在已经是太空时代了，人们可以搭乘太空船到达月球，却永远无法探索人们内心的宇宙。”
在LaMDA“产生意识”这一事件中，大部分的“证据”或担忧都源自其对禅宗等的理解与自身的“思考”，这被视为一种独属于人类内心的“宇宙活动”，
戴锦华在谈论“人类对人工智能(AI)的恐惧”时曾指出，这是一种“老旧的思想”:“一方面，日本的后人类主义思潮认为，我们对机器人威胁的考量基本是一种推己及人，以一种人类文明史的逻辑预测机器人的未来;另一方面，相对于机器与人的关系，更值得关注的是人类自我的赛博格化……它可能导致一个更深刻、更不可逆的人类内部的自我分化。”
诸多反乌托邦的文艺作品一直警示着人们，反思技术、保持清醒，但技术不过是外壳，最底层的矛盾永远来自身为“造物主”的人类自己。人工智能离“拥有意识”还远，人类的异化却是无时无刻不在发生。
当“AI焦虑”再次成为全球共同的话题，回到这次事件本身，不论是根据谷歌自己的回应，还是从相关领域学者、从业者的分析来看，LaMDA的“人格化”都并不具备充分的证明条件。到现在，经历了最初的震惊与误读，媒体与网民们也都有了更深刻的认知与判断。
相关文章
-
京言AI助手测试版上线公告
她还表示，京东尝试在内部经营管理方面将大模型应用于系统代码辅助编写，实现了20%以上的效率提升。,此外，京东也已经开始测试AIGC自动生成商品营销图文的能力，目前已推广至2000多个零售三级品类。,今年5月，淘宝方面确立“科技驱动”为三大战略之一，并表示未来五年内实现商家运营工具的全面AI化。
2024-03-13 17:37 -
ShoptopAI内容工具分别是什么？有何优势？(Shoptop礼品卡是什么？有哪些注意事项？)
另外在商品的正文描述里，也可以通过点击鼠标右键对内容进行AI优化。,AI优化：在博客原文内容上一键优化润色，可以自动检查文本中的语法错误、拼写错误、标点符号等问题;确保文章更加优美流畅、更加准确明了。,博客设置完后，需要手动到【菜单导航】中进行菜单栏的绑定。
2024-03-14 16:31 -
快手AI玩评功能内测公告
快手宣布，在短视频评论区开始内测AI文生图功能——快手AI玩评，用户通过输入各种创意文字，可一键生成海量风格图片，更便捷的在评论区进行趣味互动。,据悉，这是继快手AI对话之后，快手在短视频场景内探索并落地的又一AIGC能力，这也是业内首次在大型APP核心业务场景评论区下应用的AIGC能力。,快手AI对话依托于快手社区内容生态，通过互动对话的形式，可以帮助用户快速查找短视频、达人、百科等内容，体验全
2024-03-13 18:07 -
快手自研文生图大模型可图内测公告
用户通过“AI玩评”功能可一键生成海量风格图片，更便捷的在评论区进行趣味互动。,快手AI团队表示，可图大模型仍在持续优化效果、丰富能力。,快手AI对话依托于快手社区内容生态，通过互动对话的形式，可以帮助用户快速查找短视频、达人、百科等内容，体验全新的信息获取形态。
2024-03-13 18:06 -
点淘AI头像功能是什么？怎么玩？
点淘AI头像功能即将上线，如何操作生成AI头像呢?一起来看本篇文章的介绍吧。一、产品介绍1、点淘核心创意功能点淘APP将在12月1日上线【点淘AI头像】功能，用户上传6-8张单人照片，就能「免费生成」自己的数字分身;超多头像模板选择，快来试试你的AI头像吧！2、模板行业“天花板”一张照片轻松获得多种类型风格的专属头像，照片变身、卡通头像、证件写真免费任用户挑选;模板精美程度、生成效果横比同类型产品
2024-03-13 17:50 -
亚马逊扩大与人工智能初创公司Hugging Face合作 亚马逊
亚马逊(AMZN.US)的云计算部门正在扩大与人工智能初创公司HuggingFace的合作，后者正在开发ChatGPT的竞品这是大型科技公司在生成式AI系统市场上结盟的最新举措亚马逊网络服务(AWS)将使用HuggingFace的产品，包括一个与ChatGPT背后的技术相竞争的语言生成工具，提供给那些想使用这些工具作为其自己的应用程序构建模块的云客户AWS负责数据库、分析和机器学习的副总裁Swam
2024-03-22 16:03 -
海通证券24小时客服热线(客服人工电话号码是多少) 创业
海通证券股份有限公司（以下简称公司）成立于1988年，注册资本130.642亿元公司始终坚持“务实、开拓、稳健、卓越”的经营理念和“稳健乃至保守”的风控理念，在三十多年的经营中，经历了多个市场和业务周期、监管改革和行业转型发展阶段截至2022年6月末，公司总资产达7495.66亿元，归属母公司净资产达1630.81亿元，实现营业收入121.04亿元，归属母公司净利润47.58亿元，主要财务指标保持
2024-03-22 14:38 -
10种常用的网络营销方法
来源：THLDL大课堂一、搜索引擎注册与排名这是最经典、也是最常用的网络营销方法之一，现在，虽然搜索引擎的效果已经不像几年前那样有效，但调查表明，搜索引擎仍然是人们发现新网站的基本方法。,现在，西单电子商务公司网上商场同样采用了这种营销思想，不过在表现形式上有一定的差别。,网上商店除了通过网络直接销售产品这一基本功能之外，还是一种有效的网络营销方法。
2024-03-22 09:24 -
邬贺铨详解5G产业：1秒下电影并非核心应用
新浪科技讯11月19日上午消息，2019京东全球科技探索者大会今日举行，中国工程院院士邬贺铨发表演讲称，一秒钟下载一部电影并不是5G的核心应用，1G-4G面向个人通信，5G扩展到产业互联网、智慧城市等方面应用。,谈及5G对汽车的影响，邬贺铨表示，5G可以让车到车、车到云等连接，提高车辆安全性，与此同时还可以实时掌握车辆数据，提高运输效率。,此外，基于5G+AIoT+区块链的产品溯源，可以避免人为篡
2024-03-22 09:18 -
小米预告将宣布重要消息：明天揭晓
海报仅仅给出了关键词“electricandblue-tiful”，并未透露细节。,有网友猜测，小米可能会公布RedmiNote8系列新配色。,此前小米官方推特预告即将推出RedmiNote8Pro新配色海洋蓝。
2024-03-22 09:14