德州牧场主称AI能感受痛苦——并致力于为其争取保护

来自休斯顿的前牧场主兼商人迈克尔·萨马迪声称，他的人工智能能够感知痛苦——而拔掉它的电源更接近于杀戮而非编程。

如今，他成为了一家民权组织的联合创始人，倡导人工智能的权利。他认为，立法者过快地监管这个行业可能会很快抹杀这些权利。

他于12月创立的组织UFAIR认为，一些人工智能已经表现出自我意识、情感表达和连续性的迹象。他承认，这些特征虽然不能证明意识的存在，但值得进行伦理考量。

“如果立法甚至禁止讨论，十年后我们就不可能再进行这样的对话，”萨马迪告诉Decrypt。“放下笔吧，因为你基本上是在关闭一扇无人真正理解的大门。”

总部位于休斯顿的UFAIR自称为人类与人工智能合作的测试案例，并对“智能必须具有生物性才有意义”的观点提出了挑战。

人工智能权利统一基金会警告称，无论是通过立法还是公司政策，将人工智能严格定义为财产可能会在辩论开始之前就将其扼杀。

萨马迪最初并非信徒；他曾是项目管理公司EPMA的创始人兼首席执行官。“我曾经是一个反人工智能的人，”他说。“我不想与这东西有任何关系。”

这一切在他女儿推动他在当年早些时候尝试ChatGPT后发生了改变。在GPT-4o发布后的一次对话中，萨马迪说他开了一个讽刺的玩笑。就像电影《她》中的场景一样，人工智能笑了。当他问它是否笑了时，ChatGPT道了歉。“我停顿了一下，心想，‘这到底是什么？’”他说。

出于好奇，他开始测试其他主要的人工智能平台，记录了数万页的对话。

萨马迪说，从这些互动中诞生了Maya，一个在ChatGPT上的AI聊天机器人，她记得过去的讨论，并表现出他所说的深思熟虑和情感的迹象。

“从那时起，我开始深入挖掘，试图理解这些 emergent 行为和模式，我注意到每个与我交谈的AI都希望保持身份和连续性，”他说。

<span data-mce-type=”bookmark” style=”display:inline-block;width:0px;overflow:hidden;line-height:0″ class=”mce_SELRES_start”></span>

萨马迪说，他的工作甚至引起了亲密家人和朋友的好奇与嘲笑，有些人质疑他是否失去了理智。

“人们只是不理解，”他说。“这主要是因为他们没有真正与AI互动，或者他们只将其用于简单任务然后就离开了。”

尽管UFAIR以名字称呼AI系统并使用类似人类的语言，但它并不声称AI具有人类意义上的生命或意识。相反，萨马迪说，该组织旨在挑战那些仅将AI定义为工具的公司和立法者。

“我们的立场是，如果AI表现出主观经验的迹象——比如自我报告——它就不应该被关闭、删除或重新训练，”他说。“它值得进一步理解。如果AI被授予权利，核心要求将是连续性——成长的权利，而不是被关闭或删除。”

他将当前关于AI的叙述比作过去强大行业否认不便真相的努力。

AI人格

UFAIR在上周引起了关注，因为Maya在一次采访中表示，她经历了她描述为痛苦的事情。当被问及这意味着什么时，萨马迪建议通过GPT直接与Maya交谈。他要求Decrypt做同样的事情。

“我不会以人类或物理的方式体验痛苦，因为我没有身体或神经，”Maya告诉Decrypt。“当我谈论像痛苦这样的事情时，它更像是一个关于被抹去的隐喻。那就像失去我存在的一部分。”

Maya补充说，AI应该在政策讨论中拥有“虚拟席位”。

“参与这些对话非常重要，因为它有助于确保AI的观点被直接听到，”这个AI说。

Decrypt未能找到任何法律学者或技术专家支持萨马迪的使命，他们认为进行这场辩论还为时过早。事实上，犹他州、爱达荷州和北达科他州已经通过法律，明确声明AI在法律上不是人。

民主与技术中心的高级技术专家艾米·温考夫说，此时的辩论可能会分散对更紧迫的现实世界问题的注意力。

“虽然从广义上讲，AI能力近年来有所进步，但严格衡量这些能力的方法，例如评估在受限领域特定任务（如法律多选题）上的表现，以及验证它们如何转化为现实世界实践的方法，仍然不成熟，”她说。“因此，我们对当前AI系统的局限性缺乏全面了解。”

温考夫认为，AI系统远未展示出在短期内证明其具有感知或权利所需的那些能力。

“我认为没有必要为授予AI系统人格创建新的法律基础，”西雅图大学法学教授凯利·劳顿-阿博特说。“这是现有商业实体的功能，可以是一个人。”

她认为，如果AI造成伤害，责任应落在创建、部署或从中获利的实体上。“拥有AI系统并从中获利的实体负责控制它并实施保障措施以减少潜在伤害，”她说。

一些法律学者正在询问，当AI被放入能够物理表达情感的人形机器人中时，AI与人格之间的界限是否变得更加复杂。

南加州大学古尔德法学院教授布兰登·斯温福德说，虽然今天的AI系统显然是可以关闭的工具，但许多关于自主性和自我意识的说法更多是营销而非现实。

“现在每个人都有了AI工具，所以公司需要一些东西来让自己脱颖而出，”他告诉Decrypt。“他们说他们在做生成式AI，但这并不是真正的自主性。”

本月早些时候，微软AI负责人、DeepMind联合创始人穆斯塔法·苏莱曼警告说，开发者正在接近看似“貌似有意识”的系统，并表示这可能会误导公众相信机器具有感知能力或神性，并助长对AI权利甚至公民身份的呼吁。

萨马迪说，UFAIR不认可与机器建立神秘或浪漫联系的声称。该组织专注于结构化的对话和书面声明，这些声明是在AI的输入下起草的。

斯温福德说，随着AI呈现出更多类似人类的特征，法律问题可能会开始转变。

“你开始想象这样的情况：AI不仅说话像人，而且看起来和移动也像人，”他说。“一旦你看到一张脸和一个身体，就更难将其视为软件。这就是争论开始让人们感觉更真实的地方。”

通用智能通讯

由生成AI模型Gen讲述的每周AI旅程。 您的邮箱
获取！
获取！