品书网

杂志

保存到桌面 | 繁体 | 手机版
传记回忆文学理论侦探推理惊悚悬疑诗歌戏曲杂文随笔小故事书评杂志
品书网 > 杂志 > 网络机器人互相攻击只因他们太像人类

网络机器人互相攻击只因他们太像人类

时间:2024-10-27 07:10:00

没人预料到危机的来临——一个破坏性的协作将“章鱼哥”的参考文献插入到与其完全无关的文章中。在2006年,维基百科开始无法容忍任何与“海绵宝宝”相关的错误插入玷污网站日益成长的声誉。这很尴尬,必须有人阻止“章鱼哥”。

维基百科社区知道,动用编辑力量来处理这些繁琐的工作是不现实的,所以启用了网络机器人来自动标记不该被插入“章鱼哥”的相关内容,并取得了成效。维基百科击败了“章鱼哥”的威胁,并形成了与网络机器人的强大联盟。今天,数百个算法助手打击各种各样的破坏者,修复错字,甚至自己创建文章,没有它们,维基百科将一片混乱。

但是当把一堆网络机器人限定在同一个虚拟空间的时候,有趣的事发生了:它们无法好好相处,有时一对机器人会互搏,在相当长的时间里数千次覆盖对方的决定。《PLOSONE》的一项最新研究显示,这种情况并不少见,而原因在于无论机器人看上去多么冰冷和精明,它们还是倾向于扮演人类的角色。这些是互联网的好处,而不是机器人的种族主义,想象一下,人工智能驱动的个人数字助理在同一个房间里终日争论不休,是GoogleHome还是Alexa会赢?

在维基百科,机器人处理那些令编辑抓狂的沉闷和单调的工作。机器人不会疲倦,不会对人类生气。它们用人类无法匹敌的一致性和热爱来对待它们的工作。

维基百科编辑们之间的分歧会很快结束,而机器人之间的斗争可以持续数月甚至数年。研究发现,维基百科英文版的网络机器人比人类编辑更爱发生冲突:在十年的时间里,每个机器人平均与其它机器人冲突超过105次,而人类编辑的平均值为3次。机器人失去理智是因为它们根本不知道怎样做才好——毕竟它们只是一些代码。

但这并不意味着他们不值得信赖。机器人处理相对简单的任务,如拼写检查,让人类编辑可以专注于解决那些大问题。

机器人目前所做的工作远超想象。维基百科英文版有大约30,000个活跃的人工编辑对应由代码产生的大约300个活跃的机器编辑,但机器人具备疯狂的生产力。“如果你把它们跟其它编辑放在一起,你甚至不容易注意到它们,”牛津大学这项研究的合作者之一TahaYasseri说,“但他们做了很多。机器人在不同语言中进行的所有编辑的比例在10%到40%~50%(某些特定语言版本)之间。”然而维基百科没有变成一个血腥的机器人战场,这是因为人类在密切监视着机器人。

野蛮的机器人

但是机器人不可避免地发生冲突,Yasseri认为。例如,研究发现在三年的时间里,两个监控维基百科上的双重重新定向的机器人就像一对“活宝”。在大约1,800篇文章里,机器人A共恢复了机器人B编辑的文章1,031次,而获得B的906次赞同。这是因为命名约定的差异,例如,B将“意大利乳清奶酪”重定向到“里科塔奶酪”,之前它重定向到“里科塔”。然后A进入并恢复了这个变化。

维基百科争辩说,这些机器人并不是真正的“战斗”。维基媒体基金会首席研究科学家AaronHalfaker说:“例如,如果A执行了原始的双重重定向清理,而B执行了第二次双重重定向清理,那么它们似乎会‘相互恢复’。”但在现实中,机器人正在协作,尽量减少维基的重新定向。

但是,Halfaker承认机器人彼此恢复可能看起来像冲突。“例如,你可能有一个编辑,希望确保维基百科上的所有英语语言列表都使用牛津逗号,而另一个编辑认为我们不应该使用牛津逗号。”但是维基百科有一个机器人批准过程来捕捉这些东西。“我们完全掌控目前正在运行的机器人。”他说。

此外,维基百科也一直监控他们的机器人。加利福尼亚大学伯克利分校数据科学家R.StuartGeiger说:“人们常常想象他们是完全自主的终结者,他们通过维基百科进行所有决策。但大多数情况下,很多这些机器人只是人类编写的相对简单的脚本。”

人机合一时代

人类永远是人类,而机器人表达人类的聪明才智和错误,让它们与创造者在一个亲密的意义上形成一个混合生物。“每当你在维基百科上阅读一个机器人的时候,都把它当成一个‘人’。”Geiger说。一个人有一台始终开机的电脑,有一个运行在那台电脑上的工具,他们可以发布命令,他们可以说用Y替换X。

在“与人类过度相似”之前,Yasseri的研究也发现了不同维基百科语言的机器人社区之间的文化差异。“这是非常有趣,因为这是相同的技术,只是在不同的环境中使用,并被不同的人使用,”Yasseri说,“为什么会导致很大的区别?例如,在德国维基百科的机器人相对来说冲突很少,而葡萄牙版的机器人则最爱发生冲突”。

这些差异可能看起来微不足道,但是这种洞察具有深刻的影响,因为人工智能越来越深入地影响着人类社会。想象一下,适应德国高速公路疯狂速度的自动驾驶汽车如何与一辆适应葡萄牙巷道相对平静的自动驾驶汽车互动。因此,不同版本的机器人在不同版本的维基百科上进行交互,可以预测人工智能机器人如何在不久的将来共处。

再想想在互联网其它地方的人工智能,比如Twitter怎样进入不同的电脑。机器人发出假新闻,模仿特朗普来骚扰特朗普的支持者。与维基百科的机器人编辑不同,这些机器人假装人类愚弄别人。如果你认为维基百科的机器人有问题,那就想想与那些恶毒的人工智能之间的战斗吧。

但现在,维基百科的许多机器人合作、冲突,并保持“章鱼哥”出现在合适的位置。

来源:《连线》Wired
   

热门书籍

热门文章