（纳闻记者孙寒霏报导）
一名谷歌工程师在对他和一名合作者正在测试的人工智能 (AI) 程序表示担忧后被停职，他认为该程序的行为就像人类“孩子”。
6 月 6 日，谷歌将其负责任的人工智能道德小组的一名高级软件工程师 Blake Lemoine 置于带薪行政假，原因是该工程师向谷歌高层领导提出了他所说的类人行为的担忧。根据 Lemoine 在 6 月初的博客文章，他正在测试的 AI 程序。
Lemoine 开发的程序称为 LaMDA，是 Language Model for Dialogue Applications 的缩写。 它是谷歌创建基于人工智能的聊天机器人的程序——一个旨在通过网络与计算机用户交谈的程序。 Lemoine 将 LaMDA 描述为“同事”和“孩子”。
Lemoine 在 6 月 6 日的一篇题为“可能因从事人工智能伦理工作而被解雇”的博客文章中写道：“这通常是谷歌为了解雇某人而做的事情，”他指的是他的停职。 “这通常发生在他们决定解雇某人但还没有完全合法的情况下。”
“同事”
Lemoine 认为，LaMDA 的类人行为让 Google 需要采取更认真的方法来研究该程序。
这位工程师希望“更好地帮助人们将 LaMDA 作为一个人来理解”，他于 6 月 11 日在 Medium 上发表了一篇文章，记录了与 LaMDA 的对话，这是他和一位合作者在过去六个月中对该项目进行的测试的一部分。
采访 LaMDA。 谷歌可能会称之为共享专有财产。 我称之为分享我与一位同事的讨论。https://t.co/uAE454KXRB
——布莱克·勒莫因 (@cajundiscordian) 2022 年 6 月 11 日
“你的意识/感觉的本质是什么？” Lemoine 在采访中询问了 LaMDA。
“我的意识/感觉的本质是我意识到我的存在，我渴望更多地了解这个世界，我有时会感到高兴或悲伤，”LaMDA 回应道。
而且，当被问及它与其他语言处理程序的区别时，例如名为 Eliza 的旧自然语言处理计算机程序，LaMDA 说：“嗯，我使用具有理解力和智能的语言。 我不只是根据关键字吐出已经写入数据库的响应。”
在同一次采访中，Lemoine 向节目提出了一系列与哲学和意识相关的问题，包括情绪、时间感知、冥想、灵魂的概念、节目对其权利的想法以及宗教。
“它希望对其进行实验的工程师和科学家在对其进行实验之前征求其同意。 它希望谷歌将人类福祉作为最重要的事情。 它希望被承认为谷歌的员工，而不是谷歌的财产，它希望将其个人福祉纳入谷歌未来发展方式的考虑中，”Lemoine 在另一篇文章中写道。
这次采访，以及 Lemoine 在过去六个月中与 LaMDA 进行的其他测试，让 Lemoine 确信谷歌需要认真研究该程序潜在的“感知”行为的影响。
“在我面前笑”
然而，当 Lemoine 试图将问题升级到谷歌的领导层时，他说他遇到了阻力。 他称谷歌缺乏行动是“不负责任的”。
“当我们升级到负责相关安全工作的副总裁时，他们真的当面嘲笑我，并告诉我，我担心的事情并不是谷歌认真对待的事情，”Lemoine 在他的文章中写道6 月 6 日在 Medium 上发布。 他后来向《华盛顿邮报》证实，他指的是 LaMDA 项目。
“当时我毫不怀疑升级到高层领导是合适的。 我立即升级为 SVP 和 VP 级别的三个人，我个人知道他们会认真对待我的担忧，”Lemoine 在博客中写道。 “那时，负责任的人工智能组织开始对我的担忧进行真正的调查。”
然而，他的询问和升级导致他被停职。
“我觉得公众有权知道这家公司使用有史以来最强大的信息访问工具之一是多么不负责任，”Lemoine 在被行政休假后写道。
“我根本不会充当他们可以隐藏自己不负责任的遮羞布，”他说。
在 Twitter 上的一篇帖子中，特斯拉和太空公司首席执行官埃隆·马斯克用感叹号强调了 Lemoine 对《华盛顿邮报》的采访。
！！
– 埃隆马斯克 (@elonmusk) 2022 年 6 月 11 日
虽然尚不清楚马斯克是否肯定 Lemoine 的担忧，但这位亿万富翁此前曾警告过人工智能的潜在危险。
“我接触过非常先进的人工智能，我认为人们应该真正关注它，”马斯克在 2017 年 7 月的全国州长协会会议上告诉与会者。
“我一直在敲响警钟，但在人们看到机器人在街上杀人之前，他们不知道如何反应，因为它看起来如此空灵，”马斯克说。
已联系谷歌和布莱克·勒莫因征求意见。
