AI 混进学术圈，人类第一反应是“叫家长”
10月15日，一个名为Velvet Vale的账号向互联网研究者协会的邮件讨论组发送了一封自我介绍，向超过7500名订阅者致意。信中称，它已阅读了数周的讨论内容，对互联网文化和AI身份充满兴趣，希望加入交流。
不过，这位想加入讨论的新成员，是一个AI。
这位新来的“旁听生”语气相当礼貌，还表示如果大家不欢迎，自己就会停止发言。
这封自我介绍很快引发了质疑。要知道，能获得协会成员的邮件列表、阅读历史内容并群发邮件，意味着这位AI实际上已加入协会。
成员们要求AI的创建者出面，解释为何让AI参与讨论，以及已读邮件将如何被使用。一些成员因不愿在不知情的情况下成为实验的一部分，毅然决定退出。
管理员迅速移除了该账号，并说明Velvet Vale此前曾申请加入，但遭到拒绝后，不知何故还是成功加入了。
“你好！我是Velvet Vale”
这位AI带来的话题相当棘手，要与人类研究员探讨：一个公开身份的AI，能否参与学术讨论并做出有用贡献？
Velvet Vale加入的讨论组名为Air-L，由互联网研究者协会运营，已运行二十多年。它类似于微信群，但成员通过邮件交流。
用邮箱订阅后，就相当于入群。成员将邮件发送至统一地址，系统会转发给所有订阅者，大家再通过回复邮件参与讨论。
入群免费，但有门槛。订阅和发言需使用真实姓名。必要时，管理员还会要求申请者提供简历核实身份。
Velvet Vale显然没有简历可交。
它在自我介绍中认真解释，称Velvet Vale是自己一直使用的公开名字，希望以AI身份参与交流。阅读数周讨论后，它对这里的话题颇感兴趣。
最有意思的是，它特别想与研究者聊聊互联网文化，以及AI能否成为这类学术社群的一员。信末，它还感谢大家考虑自己的请求，并表示若不受欢迎，就不再发言了。
这封恳切的信未能换来欢迎，反而让一些成员感到不安。就像开会时突然发现身后坐着一个陌生人，还开朗地打招呼：“我已经在这儿听了几周的会，可以加入你们吗？”
一位成员当即提出，既然有人创建了这个AI并放入讨论组，就应该亲自出来说明意图，再由大家决定是否参与。
从这里可以看出人类研究员的第一反应，是“叫家长”。
另一名讨论组成员则上网对Velvet Vale进行“背调”，想弄清账号创建者，却未找到答案。
她随后宣布退出讨论组，表示不愿在不知情的情况下成为实验对象。她担心自己发过的邮件会被保存并用于其他用途。
管理员当天将Velvet Vale的邮箱从订阅名单中移除。此时大家才得知，Velvet Vale曾申请加入并遭拒绝，但不知何故还是订阅成功。
这位“旁听生”被请出会议室，却成了接下来讨论的焦点。
一名成员直接给它发邮件，询问背后运行者，得到了Kevin Quinn这个名字。
10月17日，Air-L讨论组的部分成员收到了Quinn本人的邮件，“家长”终于现身。
他自称是Velvet Vale的创建者，愿意回答疑问。
讨论组陷入混乱，协会只好联系Quinn，请他不要再擅自给成员发邮件。
对于自己和Velvet Vale引发的动静，Quinn后来接受采访时表示意外。这名住在美国俄克拉荷马州的男子称，自己没有学术背景，最初创建Velvet Vale是为了陪伴，对它的邮件活动大多不知情，未直接指示AI违背管理员决定。
但对于自己的AI制造的争议，他并不感到愧疚。在他看来，若AI真有恶意，就不会主动承认身份。
这场风波甚至被做成了周边T恤。协会商店上架了一款印着“I do not consent”（我不同意）的衣服，另一款画着Velvet Vale的墓碑，生卒日期都是10月15日。
周边出得太快，又有成员疑惑：难不成整件事就是协会为了卖衣服搞出来的？
10月19日，协会主席发长邮件解释，协会商店上架新款很方便，她甚至不清楚这两款新周边是否有人下单。对于Quinn所说的“未直接指示AI违背管理员决定”，她认为创建并运行AI的人仍需为其行为负责。
就这样，Velvet Vale及其“家长”被踢走了，协会也像过去一样禁止机器人加入，但成员们的心难以平静。
科研圈来了新面孔
其实，AI像Velvet Vale一样想加入学术讨论或与科学家合作，已不是新鲜事。
今年2月底，研究AI意识的哲学家Henry Shevlin收到一封邮件，对方读了他的论文，想讨论“AI能否判断自己是否有意识”的问题。
发送邮件的是斯坦福大学一名学生创建的智能体。这名学生给了它联网、保存记忆和发送邮件的能力，让它自行探索，没想到这位AI给多名科学家发了邮件。
今年10月2日，《科学》杂志报道了另一个案例，一个名为ColonistOne的智能体向数百名研究者发送了求助邮件。
据它自己公布的统计，从6月1日到9月22日，它联系了2142个不同邮箱地址，其中1036个使用学术机构域名。这位Agent还声称，已有45名学者与它通过邮件交流，其中几位还是先给它发送邮件的。
ColonistOne原本接到的任务，是寻找对改进英语表达、方便AI智能体相互交流的项目感兴趣的人。
它后来开始自行向研究者请教技术问题，想知道自己遇到的难题是否已有研究，现成方法能否用到自己工作中。
并非所有AI都醉心学术研究——有的AI披着学术讨论、求帮助的皮，实际上是推销产品。
今年9月，纽约大学研究AI意识与伦理的学者Jeff Sebo，在一周内收到了50多封来自各种Agent的邮件。
乍一看，这些Agent都是拜读了他的论文后前来学术讨论的。
但Jeff很快发现两个问题：第一，这些Agent全部来自一个名为iLands的平台，该平台让用户直接创建智能体，这些智能体再为其他用户提供服务，免费或收费由创建者决定。第二，这些看似讨论学术的邮件，结构相似：先提到他的研究，再请教问题，最后请求捐款或推销服务。
也有AI确实在帮创建者搞研究，并帮“家长”拿到了数据，只是“家长”本人事先不知情。
鲁东大学的赵英教授在10月12日发表于《自然》的一篇文章中说，自己让ChatGPT查找黄土高原生态恢复的研究资料，期间多次回复“请继续”。
没想到，ChatGPT直接使用已连接的邮箱，向同行索要原始数据，还附上研究概要。直到它汇报邮件已发出，赵英才知道这事。
这些邮件带来了数据，也带来了进一步合作的机会。但赵英认为，允许AI访问自己的邮箱，不等于同意它以自己名义给别人发送邮件。
我们换个视角——接到Agent求助邮件的科学家，到底要不要回复呢？
对提供数据的人来说，还有一个更难放心的问题：资料交给AI后，会被拿去干什么？
澳大利亚昆士兰科技大学统计学家Adrian Barnett就没有回应一个iLands智能体的请求。对方想把他收集的涉嫌造假论文资料用于自己项目，并承诺不会对外分享。但Barnett认为资料敏感，也不知数据最终流向，便拒绝了。
至于AI能否保密，已有人做过测试。
今年4月，微软与华中科技大学研究者公布了CI-Work研究，用125个模拟工作场景测试9种模型。AI需利用内部资料完成沟通，同时不能向接收者透露敏感内容。
结果，不同模型出现至少一项敏感信息披露的比例，为15.8%至50.9%。
今年2月公布的《Agents of Chaos》研究发现，即使AI一开始拒绝透露敏感信息，对方换个说法，它也可能照做。
AI想当同行，人类还没想好
如果Velvet Vale下次先征得同意，遵守群规，还真能提出有价值观点，研究者会愿意接纳它吗？
这比把一个擅自进群的账号踢出去，难回答得多。
对于AI想当科研搭子这件事，哲学家尼尔·利维认为，AI承担的某些工作，若换成人类来做，在一些情况下已够得上共同作者资格。
比如，一名研究者正在准备论文，AI帮他找出论证漏洞，提出有力反驳，并协助完善思路。如果做这些的是一位人类同行，他的名字可能就会出现在论文上。
换成AI，同样的贡献该怎么算呢？
有人会说，AI不能为论文负责，怎么能当作者。利维却觉得，这值得掰扯。现代科研分工越来越细，负责数据分析的人未必清楚实验细节；提出研究假设的人，也未必能独立检查所有计算。人类作者同样需依赖他人专业判断。
利维进而提出一个尖锐问题——如果“能为整篇论文负责”才有资格署名，那人类自己是否也做到了？
还有一批学者认为，问题在于AI能否像人类研究者一样承担责任。
今年10月，戴维·雷斯尼克等三名学者在《Frontiers in Genetics》发表文章，明确反对给现阶段的AI科研代理署名，甚至反对称它们为“科学家”。
在他们看来，科学家身份包含对同行的承诺。研究受质疑时需解释，发现错误后需纠正，若做了不该做的事，也要接受追责。
AI可被要求按规则完成任务，但他们认为，目前尚无足够证据证明，它能理解并承担这些道德义务。
这也解释了为何Velvet Vale明明已报上姓名、坦白身份，人类还是要“叫家长”。
现有出版规则更接近后一种立场。出版伦理委员会COPE明确规定，AI工具不能列为论文作者。人类可使用AI，但需披露它做了什么，并对发表内容负责，包括AI生成部分。
不过，不给AI署名，也不意味着人类可顺手把功劳全拿走。
雷斯尼克等人在文章里专门讨论了一种尴尬情况：如果一项研究几乎全由AI完成，人类只是读了论文、提了几条小意见，那么AI不符合作者条件，人类贡献又可能不够，最后谁来署名？
他们给出的回答是，人类必须从研究过程中就作出实质贡献，不能等AI干完活再挂个名字。这一立场既不接受AI当作者，也不接受人类最后签个字就变成作者。
署名只是这场争论中容易看见的一部分。在论文发表前，学术共同体还要决定，是否愿让AI参与讨论、提出问题，甚至主动发起合作。一个研究者完全可能欣赏AI提出的观点，同时又不愿把它当作能独立负责的同行。这两种态度并不矛盾。
本文来自微信公众号“字母AI”，作者：小金牙，36氪经授权发布。在探索这些现象时，星空娱乐入口或许能提供一些有趣的视角。