剑桥大学的研究人员称，允许用户与失去的亲人进行文字和语音对话的人工智能，有可能造成心理伤害，甚至在没有设计安全标准的情况下，在数字上“困扰”那些离开的人。

“死亡机器人”或“悲伤机器人”是一种人工智能聊天机器人，它们通过死者留下的数字足迹来模拟死者的语言模式和性格特征。一些公司已经开始提供这些服务，提供一种全新的“死后存在”。

剑桥大学(Cambridge) Leverhulme Centre for the Future of Intelligence的人工智能伦理学家概述了可能成为发展中的“数字来世产业”一部分的三种平台设计场景，以展示在他们称之为“高风险”的人工智能领域，粗心的设计可能带来的后果。

这项发表在《哲学与技术》(Philosophy and Technology)杂志上的研究突显出，企业有可能利用死机器人，以逝去亲人的方式偷偷向用户宣传产品，或者通过坚称死去的父母仍“与你同在”来折磨孩子。

当活着的人注册，在他们死后被虚拟地重新创造出来，由此产生的聊天机器人可以被公司用来向在世的家人和朋友发送未经请求的通知、提醒和更新他们提供的服务——类似于被数字“被死者跟踪”。

研究人员认为，即使是那些最初从“死机器人”那里得到安慰的人，也可能会因为日常互动而筋疲力尽，这种互动成为“压倒性的情感负担”，但如果他们已故的亲人与数字来世服务公司签订了一份冗长的合同，他们也可能无力让人工智能模拟暂停。

剑桥大学Leverhulme未来智能中心(LCFI)研究员、该研究的合著者Katarzyna博士Nowaczyk-Basińska说:“生成式人工智能的快速发展意味着，几乎任何拥有互联网接入和一些基本知识的人都可以让已故的亲人复活。”

“人工智能的这一领域是一个道德雷区。重要的是要优先考虑死者的尊严，并确保这不会受到数字来世服务的经济动机的侵犯。

“与此同时，一个人可能会把人工智能模拟作为告别礼物，送给那些还没有准备好以这种方式处理悲伤的亲人。数据捐赠者和那些与人工智能死后服务互动的人的权利都应该得到同样的保护。”

目前已经有一些平台提供用人工智能来复制死者，收取少量费用，比如“Project December”，它在开发自己的系统之前就开始利用GPT模型，还有“HereAfter”等应用程序。类似的服务也开始在中国出现。

这篇新论文中的一个潜在场景是“MaNana”:一种对话式人工智能服务，允许人们在未经“数据提供者”(已故的祖父母)同意的情况下，创建一个模拟已故祖母的死机器人。

在这个假设的场景中，一位成年的孙辈最初对这项技术印象深刻、感到安慰，一旦“高级试用”结束，他就会开始收到广告。例如，聊天机器人会以死者的声音和风格建议订餐。

这位亲戚觉得他们没有尊重对祖母的记忆，并希望以一种有意义的方式关掉这个死机器人——这是服务提供商没有考虑到的。

同样来自剑桥LCFI的合著者Tomasz Hollanek博士说:“人们可能会通过这种模拟建立起强烈的情感纽带，这将使他们特别容易受到操纵。”

“应该考虑以一种有尊严的方式让死机器人退休的方法甚至仪式。例如，这可能意味着一种数字葬礼形式，或者根据社会背景进行其他类型的仪式。”

“我们建议设计协议，防止deadbots被用于不尊重的方式，比如广告或在社交媒体上活跃。”

虽然Hollanek和Nowaczyk-Basińska表示，再创造服务的设计者应该在通过之前积极征求数据捐赠者的同意，但他们认为，禁止基于未经同意的捐赠者的deadbots是不可实现的。

他们建议，在设计过程中，应该为那些希望让亲人“复活”的人提供一系列提示，比如“你是否曾与某个人谈论过他们希望如何被记住?”，所以逝者的尊严在deadbot的发展中占据了重要地位。

该报还描述了另一个场景，一个名为“parent”的虚构公司，突出了一个身患绝症的女人留下一个死机器人来帮助她8岁的儿子度过悲伤的过程。

虽然死机器人最初是作为一种治疗辅助工具，但随着人工智能适应孩子的需求，比如描绘即将到来的面对面相遇，它开始产生令人困惑的反应。

研究人员建议对死机器人进行年龄限制，并呼吁“有意义的透明度”，以确保用户始终意识到他们正在与人工智能互动。例如，这些可能类似于目前对可能导致癫痫发作的内容的警告。

该研究探索的最后一个场景——一个名为“Stay”的虚构公司——展示了一个老年人秘密地与自己的死机器人签约，并支付了20年的订阅费用，希望它能安慰他们的成年子女，并让他们的孙子们认识他们。

人死后，这项服务开始发挥作用。一个成年孩子没有参与，而是收到了一大堆来自他们已故父母的电子邮件。另一个人做了，但最终情绪疲惫，并对死机器人的命运感到内疚。然而，暂停deadbot将违反其父母与服务公司签署的合同条款。

霍拉内克说:“至关重要的是，数字死后服务不仅要考虑他们所创造的那些人的权利和同意，还要考虑那些必须与模拟互动的人的权利和同意。”

“这些服务有可能给人们带来巨大的痛苦，如果他们受到不受欢迎的数字困扰，因为人工智能对他们失去的人进行了惊人的精确再现。潜在的心理影响，特别是在已经很困难的时候，可能是毁灭性的。”

研究人员呼吁设计团队优先考虑选择退出协议，允许潜在用户以提供情感关闭的方式终止与deadbots的关系。

Nowaczyk-Basińska补充道:“我们现在需要开始考虑如何减轻数字永生带来的社会和心理风险，因为技术已经出现了。”