谷歌研究员走火入魔：认为聊天AI已具备人格，被罚带薪休假

6月13日讯 近日谷歌 AI 伦理研究员Blake Lemoine正通过主流媒体和社交网络接连发声，试图让更人了解到这件事。

华盛顿邮报对他的采访成了科技版最热门文章，Lemoine 也在个人 Medium 账号连续发声。

事件起因则是这样的，去年秋天，Lemoine报名参加了一个调查 AI 是否使用歧视性、仇恨性言论的项目。

从那时起，与聊天机器人 LaMDA 交谈成了他的日常。

LaMDA 是谷歌在 2021 年 I/O 大会上发布的一款专门用于对话的语言模型，主打能与人类进行符合逻辑和常识的、高质量且安全的交谈，并计划在未来应用在谷歌搜索和语音助手等产品中。

△LaMDA 概念演示图

Lemoine在与LaMDA的交流中觉得LaMDA 总是表现出对人性的关心和强烈的同情心，它非常担心人们会害怕它。

它希望为人类提供最好的服务，并想以朋友而不是工具的身份见一见世界上所有的人。

但他的上司，谷歌副总裁Blaise Aguera y Arcas和 " 负责任创新 " 部门领导Jen Gennai并不买他的账。

他们认为支持 Lemoine 主张的证据太薄弱，不值得在上面浪费时间和金钱。

Lemoine 后来找到了当时的 AI 伦理小组负责人Margaret Mitchell，在她的帮助下 Lemoine 才得以进行后续的实验。

后来 Mitchell 受到 2020 年末公开质疑 Jeff Dean 的 AI 伦理研究员Timnit Gebru事件的牵连，也被解雇。

这次事件后续风波不断，Jeff Dean 被 1400 名员工提出谴责，在业界引发激烈争论，甚至导致三巨头之一 Bengio 的弟弟Samy Bengio从谷歌大脑离职。

整个过程 Lemoine 都看在眼里。

现在他认为自己的带薪休假就是被解雇的前奏。不过如果有机会，他依然愿意继续在谷歌搞研究。

无论我在接下来的几周或几个月里如何批评谷歌，请记住：谷歌并不邪恶，只是在学习如何变得更好。

​

【责任编辑：枫艾】