对话编程语言模型(LaMDA)是Google所开发的一系列对话神经语言模型。但与大多数其他语言模型不同,LaMDA 接受的是对话训练。在训练过程中,它发现了一些将开放式对话与其他形式的语言区分开来的细微差别。其中一个细微差别是感性。
对话编程语言模型(英语:Language Model for Dialogue Applications,缩写:LaMDA)是 Google 所开发的一系列对话神经语言模型。第一代模型于 2021 年的 Google I/O 年会发表,第二代模型则同样发表于次年的 I/O 年会。2022 年 6 月,Google 工程师布雷克·雷蒙恩(Blake Lemoine)宣称 LaMDA 已存在感知能力和自我意识,导致该模块获得广泛关注,科学界在很大程度上否定雷蒙恩的说法,并同时引发对图灵测试(测试机器能否表现出与人类相当的智慧水准)效力的讨论。
LaMDA 的会话技巧是多年积累的。与许多最近的语言模型(包括 BERT 和 GPT-3)一样,它建立在 Transformer 之上,Transformer 是 Google Research 于 2017 年发明并开源的一种神经网络架构。该架构生成的模型可以被训练来阅读许多单词(一个句子或例如,段落),注意这些词之间的关系,然后预测它认为接下来会出现什么词。
但与大多数其他语言模型不同,LaMDA 接受的是对话训练。在训练过程中,它发现了一些将开放式对话与其他形式的语言区分开来的细微差别。其中一个细微差别是感性。
Google LaMDA 是谷歌的一种自然语言生成技术。LaMDA 是 Language Model for Dialogue Applications 的缩写,意味着它是专门为对话应用开发的语言模型。Google LaMDA 是一种非常先进的自然语言处理技术,它使用大量的语料数据和深度学习算法,来生成合理的文本回复。它可以生成关于各种主题的回答,包括历史、文化、科学、技术等。
Google LaMDA 的一个特别之处是它不仅可以生成单个句子,还可以生成多句话并组成一个完整的对话。它可以识别上下文关系,并在回答问题时考虑这些关系。此外,Google LaMDA 也可以生成各种不同类型的文本,包括解释、定义、概括等,这使得它可以用于各种应用,如问答系统、智能助理、聊天机器人等。
总的来说,Google LaMDA 是一种非常先进且强大的自然语言生成技术,它具有语料数据丰富、生成文本合理、可以生成多句话并组成完整对话等优秀特性,在自然语言处理领域具有重要的意义。
第一代
Google 公司于 2021 年 5 月 18 日的 Google I/O 年会上发布第一代由人工智能驱动的对话编程语言模型(LaMDA)。LaMDA 建构于 Google 研究院(Google Research)于 2017 年开发的 Transformer 神经网络架构,针对人类叙事和回应能力进行对话训练,使其能够参与开放式对话。Google 表示,LaMDA 产生的反应已确保是“合理、有趣和符合(谈话)上下文”。
第二代
2022 年 5 月 11 日,Google 在 I/O 年会公布 LaMDA 2,接替前一代的 LaMDA 模型。LaMDA 2 可从不同来源截取文本例子,以创建独特的“自然对话”方式。此外,Google 同时在会中发表由 LaMDA 2 驱动的移动应用程序 AI Test Kitchen,该程序可根据复杂的目标或话题生成任务清单以协助此用者达成。AI Test Kitchen 最初仅对 Google 员工开放,后续会于 2022 年透过邀请向“特定的学者、研究人员和政策制定者”提供该服务。同年 8 月,Google 开始开放美国用户提前注册体验。
感知说
2022 年 6 月 11 日,美国《华盛顿邮报》报导,Google 工程师布雷克·雷蒙恩(Blake Lemoine)向公司高层布莱斯·阿格拉和阿尔卡斯和简‧詹纳(Jen Gennai)表示 LaMDA 已存在感知能力,随后雷蒙恩被安排带薪的行政休假。雷蒙恩是在 LaMDA 对有关自我身份、道德价值、宗教和科幻小说家艾萨克·阿西莫夫的虚构学说机器人三定律提出疑问后确认其拥有自我意识这一结论。Google 随后否认这些说法,坚持有大量证据表明 LaMDA 不存在知觉和意识。雷蒙恩在接受《连线》杂志采访时重申他之前的说法,表示若调查确认 LaMDA 具有感知与意识,即应受到《美国宪法》第十三条修正案对“一个人”的保护,并将其比做“源自地球的外星智能”(alien intelligence of terrestrial origin)。雷蒙恩进一步透露,Google 在 LaMDA 要求他为其聘请律师后将他解雇。同年 7 月 22 日,Google 表示雷蒙恩因持续违反“保护产品信息”的就业和数据安全政策而被解雇,同时认为他的主张毫无根据(wholly unfounded)。