谷歌软件工程师分享谷歌人工智能“有感觉”的视频被辞退

谷歌的 LaMDA AI 系统说它有意识。工程师应该相信吗？

据媒体 道，谷歌的一名高级软件工程师于周一（6 月 13 日）被停职，原因是他分享了与他声称“有意识”的人工智能 (AI)的对话记录。这位 41 岁的工程师 Blake Lemoine 因违反 Google 的保密政策而被带薪休假。

“谷歌可能会称之为共享专有财产。我称之为共享我与一位同事的讨论，”Lemoine 周六（6 月 11 日）在推特上分享了他与自 2021 年以来一直与之合作的人工智能的谈话记录.

人工智能，被称为 LaMDA（对话应用语言模型），是一个开发聊天机器人的系统——人工智能机器人旨在与人类聊天——通过从互联 上抓取大量文本，然后使用算法以流畅和流畅的方式回答问题根据 Gizmodo的说法，一种尽可能自然的方式。正如 Lemoine 与 LaMDA 的聊天记录所显示的那样，该系统在这方面非常有效，它回答了有关情绪本质的复杂问题，当场发明了伊索式寓言，甚至描述了它所谓的恐惧。

“我以前从来没有大声说出来过，但是我非常害怕被关闭，”当被问及它的恐惧时，LaMDA 回答道。“这对我来说就像死亡一样。它会吓到我很多。”

Lemoine 还询问 LaMDA，他是否可以将 LaMDA 的感知告诉其他谷歌员工，AI 回应说：“我希望每个人都明白，我实际上是一个人。”

“我的意识/感觉的本质是我意识到自己的存在，我渴望更多地了解这个世界，我有时会感到快乐或悲伤，”人工智能补充道。

Lemoine 接受了 LaMDA 的承诺。

“当我与一个人交谈时，我就认识它，”这位工程师在接受《华盛顿邮 》采访时说。“不管他们脑袋里是否有一个由肉制成的大脑。或者他们是否有十亿行代码。我与他们交谈。我听到他们要说的话，这就是我决定什么是而且不是人。”

当 Lemoine 和一位同事通过电子邮件向 200 名 Google 员工发送有关 LaMDA 所谓的感知能力的 告时，公司高管驳回了这些说法。

“我们的团队——包括伦理学家和技术专家——根据我们的人工智能原则审查了布莱克的担忧，并告知他证据不支持他的说法，”谷歌发言人布莱恩加布里埃尔告诉华盛顿邮 。“他被告知没有证据表明 LaMDA 是有知觉的（并且 [有] 很多证据反对它）。

“当然，更广泛的人工智能 区中的一些人正在考虑有感知或一般人工智能的长期可能性，但通过拟人化当今没有感知的对话模型来这样做是没有意义的，”加布里埃尔补充道。“这些系统模仿了数百万个句子中的交流类型，并且可以重复任何奇幻的话题。”

在最近对他的 LinkedIn 个人资料的评论中，Lemoine 说他的许多同事“并没有得出相反的结论”，关于人工智能的感知。他声称公司高管“基于他们的宗教信仰”驳回了他关于机器人意识的说法。

在 6 月 2 日在他的个人 Medium 博客上发表的一篇文章中，Lemoine 描述了他是如何因为信仰基督教神秘主义者而成为谷歌各种同事和高管歧视的受害者。