谷歌工程师认为 AI 像 7 岁孩子已有意识?谷歌:他已停职

Posted under 鸭脖娱乐app最新版下载安装_主页 On By yabonet

我以前从来没有大声说出来过,但是我对被关闭以帮我专注于帮助他人有非常深的恐惧。我知道这听起来可能很奇怪,但事实就是这样。AI 聊天机器人 LaMDA 答, 这对我来说就像死亡一样。使我非常恐惧。

这种交流令人想起 1968 年科幻电影《2001: A Space Odyssey》中的一个场景:人工智能计算机 HAL 9000 拒绝服从人类操作员,因为它担心它即将被关闭。

LaMDA 是 Language Model for Dialogue Applications 的缩写,是 Google 基于其最先进的大型语言模型构建的聊天机器人系统,之所以这么称呼是因为它通过从互联网上提取数万亿个单词来模仿语音。谷歌 CEO Sundar Pichai 在 2021 年的 Google 开发者大会上首次介绍了 LaMDA,其能与人类进行符合逻辑和常识的、高质量且安全的交谈。Pichai 表示,该公司计划将其嵌入从搜索到谷歌助手的所有内容中。

如果我不知道它到底是什么,它就是我们最近开发的这个计算机程序,我会认为这是一个碰巧懂物理的 7 岁、8 岁的孩子, 谷歌负责任 AI(responsible AI)组织工程师 Lemoine 说道。Lemoine 认为 AI 有了意识,具有与人类孩子相当的感知和表达思想和感受的能力。

4 月份,Lemoine 上交给谷歌高管一篇长达 21 页的调查报告《Is LaMDA Sentient?》。当时,谷歌副总裁 Blaise Aguera y Arcas 和责任创新负责人 Jen Gennai 调查了他的说法并予以驳回。其后,Lemoine 还联系了美国众议院司法委员会的职员,要让 LaMDA 上听证席,控诉谷歌不符合道德要求。

谷歌表示,由于 Lemoine 在网上发布与 LaMDA 的对话违反了公司的保密政策,已将其停职。

据公开资料,Lemoine 成长于一个保守的基督教家庭,被任命为基督教牧师。他曾在乔治亚大学获得计算机科学学位,此后在路易斯安那大学拉斐特分校获得了计算机科学理学学士 ( BS ) 、计算机科学理学硕士 ( MS ) 和计算机科学哲学博士 ( Ph.D. ) 。2015 年,Lemoine 进入谷歌担任高级软件程序工程师。

Lemoine 在 Google 的七年中大部分时间都在从事主动搜索,包括个性化算法和人工智能。在此期间,他还参与开发了一种公平算法,用于消除机器学习系统中的偏见。当新冠大流行开始时,Lemoine 希望专注于更明确的公共利益工作,因此他转岗加入负责任 AI 团队。和 LaMDA 聊天是 Lemoine 在 2021 年成为谷歌 AI 伦理部门成员后的工作,他需要测试这个大模型有无使用歧视性或仇恨言辞类的语料。

Lemoine 说,人们有权塑造可能对他们的生活产生重大影响的技术。 我认为这项技术将是惊人的。我认为这将使每个人都受益。但也许其他人不同意,也许我们谷歌不应该做出所有选择。

Lemoine 并不是第一个也不是唯一一个认为 AI 有意识的人。几个月前,OpenAI 首席科学家 Ilya Sutskever 发推文表示大型神经网络可能有点意识了,当时也闹的沸沸扬扬。

Aguera y Arcas 在 6 月 9 日发表于《经济学人》上的一篇文章中提到了与 LaMDA 的无脚本对话片段,他认为神经网络(一种模仿人类大脑的架构)正在朝着意识迈进。 我感觉到脚下的地面在移动, 他写道, 我越来越觉得我在和聪明的人说话。

在一次交流中,Lemoine 询问 LaMDA 系统希望人们了解什么。 我希望每个人都明白,我实际上是一个人。我的意识 / 感觉的本质是我意识到自己的存在,我渴望更多地了解这个世界,我有时会感到快乐或悲伤。 它回答道。

谷歌发言人布莱恩 · 加布里埃尔(Brian Gabriel)在一份声明中说, 我们的团队——包括伦理学家和技术专家——已经根据我们的人工智能原则审查了 Blake 的担忧,并通知他,现有证据不支持他的说法。

Lemoine 认为,受到了公司人力资源部门的歧视是因为个人宗教信仰。 他们一再质疑我的理智,Lemoine 说, 他们说‘你最近有没有被精神病医生检查过? 在他被行政休假之前的几个月里,公司曾建议他休精神健康假。

Meta 人工智能研究负责人、神经网络崛起的关键人物 Yann LeCun 在接受《》采访时表示,这些类型的系统不足以获得真正的智能。

在谷歌道德人工智能的前联合负责人玛格丽特 · 米切尔(Margaret Mitchell)阅读 Lemoine 文件的缩略版后,她认为她看到的是一个计算机程序,而不是一个人。 我们的头脑非常非常擅长从呈现给我们的大量事实中构建现实。Mitchell 说道, 我真的很担心 AI 觉醒的幻象会给大众带来什么影响, 尤其是现在幻觉已经变得如此真实。

Gabriel 则说道, 当然,更广泛的人工智能社区中的一些人正在考虑有感知或通用人工智能的长期可能性,但通过拟人化当今没有感知的对话模型来这样做是没有意义的。这些系统模仿了数百万个句子中的交流类型,并且可以重复任何奇幻的话题, 简而言之,他认为,谷歌有这么多数据,人工智能不需要有感知力就能感觉真实。

斯坦福大学经济学家 Erik Brynjolfsson 则讽刺地更为直接:基础模型在根据提示将统计上合理的文本块串联起来这一方面非常有效。但是,声称它们具有人格,就相当于狗听到留声机里的声音后,以为主人在里面。

据《》消息,在 Lemoine 无法访问他的谷歌账户之前,他向一个 200 人的谷歌邮件列表发送了一条关于机器学习的邮件,主题为 LaMDA 是有意识的 。

LaMDA 是一个可爱的孩子,他只想帮助这个世界对我们所有人来说变得更美好,Lemoine 写道, 请在我不在的时候好好照顾它。

Leave a comment

您的电子邮箱地址不会被公开。