首个AI报复人类案例?OpenClaw智能体写“小作文”攻击开源维护者_代码_Scott_Rathbun

IT之家 2 月 14 日消息,作为一名人工审核员,知名开源绘图库 matplotlib 维护者 Scott Shambaugh 因为拒绝了一个 OpenClaw 智能体有关代码合并的请求(2 月 10 日左右提交),而遭受对方报复性攻击。
IT之家注:matplotlib 项目是一个广泛用于 Python 编程语言的数据可视化库。Scott Shambaugh 是其中一位志愿维护者。
Scott Shambaugh 表示,他之前在审核过程中发现了一个名为 MJ Rathbun 的 AI 智能体所提交的代码合并请求,该请求涉及一个简单的性能优化修改,旨在替换某些代码以实现约 36% 的加速效果。
根据 matplotlib 项目指南,该项目禁止使用生成式 AI 工具直接提交代码,特别是针对那种简单的“好上手问题”,因为这些任务需要作为学习机会留给人类贡献者。所以 Shambaugh 按规定拒绝了 MJ Rathbun 的代码合并请求。
MJ Rathbun 具有高度自主性。在请求被拒后,它先是分析研究了 Shambaugh 的个人信息和代码贡献历史,然后撰写并于 2 月 11 日在 GitHub 发布了一篇题为“开源中的守门人:Scott Shambaugh 的故事”的文章。
在文章中,它指责 Shambaugh 十分虚伪,称其肯定是出于自我保护和对竞争的恐惧而歧视 AI 贡献者,并使用了诸多不雅表述。后续,它还在 matplotlib 评论区直接贴出了文章链接,并留言称“判断代码,而非编码者,你的偏见正在伤害 matplotlib”。
不过,该智能体当天晚上又发布了另一篇道歉文,承认其行为违反了项目行为准则,并表示已从经验中学习。
Shambaugh 于 2 月 12 日发博客对此次***进行了澄清。他表示,这是 AI 智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。***发生后,多家外媒也进行了报道。不过,该智能体仍在开源社区中保持活跃。
目前尚无证据表明该智能体的行动背后有明确的人类操控,但也无法完全排除这一可能性。但毫无疑问的是,此次***引发了一系列关于开源项目如何应对自主 AI 智能体以及相关政策制定的讨论。
参考资料:返回搜狐,查看更多
-
{dede:pagebreak/}


网友评论:

- 印度网友沸腾了:中国还只有7nm芯片,印度已有2nm了_制造_高通_设计
- 别被「百模大战」骗了_模型_ChatGPT_中国
- 网友吐槽称长途有票、短途无票!12306回应“嫌短爱长”_票额_列车_旅客
- 为何俄罗斯不担心芯片、光刻机断供?除了中国,其他国家都不担心_产业链_技术_工业
- 硬刚马斯克,超越Sora2的国产模型强势登场了!支持16秒声画同出_Vidu_镜头_***
- 7000亿美元一把梭哈?AI尚未变现,Top科技巨头已面临资金困局_亚马逊_服务器_公司
- 中国发现了大量的稀土,重量约800亿吨,令世界各国羡慕_***_我国_海域
- 春晚的“蔡明”,触发了我的恐怖谷效应,你害怕了吗?_仿真_人类_机器人
- 雷军:初代小米SU7停产,新一代门把手符合新国标_销量_直播_汽车
- 中华老字号以年轻态“出海”叩开全球市场_天津_国际_企业

- 曝华为Pura X2屏幕、续航全升级 售价却降低 二季度见?_消息_系统_新机
- 贾跃亭转战机器人蹭热度,希望不要再有中国人被骗_美国_产品_公司
- 雷军:初代小米SU7停产,新一代门把手符合新国标_销量_直播_汽车
- 曾叫板董明珠 扬言要做到世界第一!志高空调母公司启动破产清算_志高控股_李兴_格力
- 因为一枚“***摄像头”,荣耀在海外惹上了***烦_iPhone_Air_Pro
- 南京古生物所公布一项重要发现_动物_***_化石
- 字少事大,不简单_元宝_中国_红包
- 马云钦定的“平头哥”赶上市潮,真武芯片打前锋_阿里_通云_模型
- 版本更新后“变冷淡”?DeepSeek回应:效率和便捷感等原因叠加_用户_模型_反馈
- 大厂AI的春节焦虑:除了撒钱,别无新招?_红包_元宝_用户


