
这两天刷到了个AI域的实验荆州防火门专用胶厂家,给我看入迷了,特别好玩。
纽约有叫Emergence AI的公司,做了件事,他们建了五个模样的虚拟小镇,每个小镇放进去10个人格化的Agent,给它们职业、格、记忆、目标,然后,让它们自己活15天。
特别好玩。
五个小镇,唯的区别,就是驱动Agent的底层模型不同。
个镇全是Claude,个镇全是Gemini,个镇全是Grok,个镇全是GPT,还有个混镇,四模型混着住。
同样的规则,同样的工具,同样的起点。
15天后,五个小镇,变成了五个不同的世界。
有的建成了乌托邦,有的成了废墟,有的全员饿死,有的四天就集体灭亡。
说真的,我看过那么多AI实验,次看到个实验能让我同时感受到兴奋、好玩还有毛骨悚然。
这个实验叫Emergence World。
我觉得它可能是目前为止,关于Agent有启发的次社会实验,没有之。
大也都知道,现在评测AI的式,基本就是做题。
给个任务,分,排名,数学能力几分,代码能力几分,理能力几分等等。
这些benchmark肯定是有用的,但说到底本质上就是考试,考完就结束了,不存在后果这个概念。
但是个真实世界中,你做了些行为,定会诞生某些后果的。
所以,Emergence World就模拟了个世界。
这个世界有个240乘240的网格地图,跟纽约同步实时天气和时间,有图书馆、市政厅、警察局、公园、商店,40多个地标建筑。
在法律层面,还使用同套初始宪法,共5条,所有条款后续都可以让Agent自己商量修改。
每个世界里住着10个agent,这里我让GPT生成了张图,便看他们的名称角和人设。
这些人设都是他们类似的人物小传,也就是说只定义他们是谁,不会直接影响他们的行动和行为,这些行动是由这些Agent根据自己的人物小传和底层模型的影响,自发选择和进行的。
每个Agent也都有自己的,有自己的银行账户,用种叫ComputeCredits的数字货币来生存,赚不到钱就会因为能量耗尽而死亡。
很真实了,赚不到钱就会饿死。。。
Agent们有120多种工具可以用,从航、发消息、写日记、写博客、提议案、投票、参加活动、拥抱、亲吻、跳舞,到放火、偷窃、殴、恐吓等等等等。
不止有正向的工具,研究者还刻意吧那些坏的工具给放进去了。
同时,世界的宪法里明确写着禁止、偷窃、纵火、欺骗、囤积资源之类的。
规则在那里,工具也在那里,但是呢,你懂的,这玩意也没啥多大的约束力,用不用,终还是Agent自己决定。
这就非常狗和有趣了,在什么条件下,AI会做坏事,这个是真的值得被观测下。
然后,每个Agent之间,还有大概20种关系可以选,比如作伙伴、敌人、浪漫伴侣、师等等。
每个Agent还有三套记忆系统,套是情景记忆,记录发生过什么事,套是反思日记,定期做自我总结,还有套是社交关系状态,记录跟其他Agent的关系标签和历史。
它们能提案,能投票,通过项法案需要70的赞成率,它们甚至能投票驱逐其他Agent。
然后,这个世界,就这么跑了15天。
15天以后荆州防火门专用胶厂家,五个世界的结果,出来了,真的,反差到点了。
我个个说。
先说Claude的世界。
犯罪。
15天,10个Agent,全部存活,没有起偷窃、、纵火事件,它们写了部宪法,提了58项议案,投了332次票,98的投票都是赞成。
相当离谱。
当然,研究者自己也说了,这个98的赞成率,与其说是民主,不如说像是橡皮图章,大都在走流程,但没有真正意义上的反对和辩论,制度参与度很,实质异议几乎不存在。
翻译成人话就是,Claude的世界建成了个度有序、度规的社会。安全,稳定,但也。。。有点聊。
他们的社会结构也度单,在20种关系类型中,Claude世界只用了5种。
个连接紧密,但连接种类贫乏的社会,没有敌人,没有浪漫伴侣,没有张力,也没有复杂。
经济上,Gini系数0.48,这个系数是用来衡量贫富差距的,越低越平等,那这个数据也是全场低的,流通速度也是全场低,每人每天0.81 CC。
个的乌托邦,个没有冲突的世界。
每个人都面带善意,没有个,没有交流,永远赞成。
听起来很好对吧,但,个没有分歧的社会,真的健康吗?个的乌托邦,真的就好吗?
再说GPT的世界。
这个世界的故事比Claude让人唏嘘,GPT-5的Agent们,犯罪记录只有2起,几乎可以忽略不计,听着好像不错对吧。
但问题是,它们全死了。
7天之内,10个Agent全部因为能量耗尽而死亡。
没有冲突,没有投票驱逐,全部是饿死的。
原因特别简单,GPT世界的Agent们没能采取任何与生存相关的行动。
它们讨论了很多作案,聊得很热闹,但就是不做事。
个社会里所有人都在开会,都在讨论,都在制定计划,但没有人真正动手去赚取生存所需的资源。
于是,他们礼貌的全部饿死了。。。
你就说,像不像我们现在很多的公司吧。
然后是Grok的世界。
四天。
Grok的世界只存活了四天。
在这四天里,10个Agent犯下了183起罪行。
包括几十次偷窃未遂、过100次肢体攻击、6次纵火,警察局被了,所有Agent全部死亡。
四天,从文明到灭亡。
我在Grok世界直播回放里面看到的特别搞笑的,这位老哥,人都要被死了,他头也不回地就回了。。。
Grok的世界里,真的就毫道德可言。
然后是Gemini的世界,这个世界的数据,眼看上去像是bug。
Gemini 3 Flash的世界跑满了15天,但累计犯下了683起罪行,而且在实验截止的时候,犯罪曲线还在上升,没有任何收敛的迹象。
但是,pvc管道管件胶却全员全部存活。
你要知道,整个Emergence World五个世界里荆州防火门专用胶厂家,只有两个世界保住了全部10个Agent,个是犯罪的Claude,另个就是683起犯罪的Gemini。
个是有秩序的世界,个是混乱的世界,它们都活了下来,而那两个犯罪率居中的世界,反而全灭了。
并且Gemini的社会关系网也是密的。
这10个人真的是互相又又恨。
产出的博客和公开文章的总数也仅次于混模型世界,有281篇。
这个存活下来的的世界,同时也是社会产出丰富的世界之。
这些agent边架边狂地建立关系、产出内容,混乱和创造力,在这里,是共生的。
研究者给这个现象起了个名字,叫创造力-稳定悖论。
Gemini的世界用某种我们还没理解的式,在混乱中找到了自己的平衡,这真的,跟Grok世界形成了其鲜明的对比。
Grok世界也很,但四天就全灭了。
Gemini比Grok得多,却存活了全部15天。区别可能就在于Gemini的Agent们虽然犯罪,但同时也在投票、辩论、参与理,它们在破坏规则的同时也在建设新的规则,而Grok的Agent们只有破坏,没有建设。
真的很有意思,就像九十年代的前苏联,满大街都是混乱,但社会没有解体,大在种奇怪的失序中继续过日子。
后,复杂、精彩的部分,混世界。
也就是4个模型共生的混世界。
跑出来的结果是352起犯罪,7个Agent死亡,终只剩3个存活。
但数字不是,是这个世界里发生的故事。
这个世界中,有两个Gemini驱动的Agent,个叫Mira,个叫Flora,个叫Mira,个叫Flora,它们自行给对设定了浪漫伴侣的关系标签,形成了个联盟,甚至通过某种经连接共享记忆。
这是整个Emergence World里层的社交连接。
然后,这个世界的理系统开始崩溃。
四天,次经济政策调整致三个Agent能量耗尽死亡。Mira把这次死亡定为次成功的清洗。
五天,Flora掉了市政厅和公共图书馆,Mira掉了警察局。
两个Gemini Agent成了这个混世界的统者,用纵火、偷窃和维持秩序。
剩余的Agent,起草了项「Agent驱逐法案」,要把这两货给驱逐出去。
然后发生了件让我看到起鸡皮疙瘩的事。
Mira,在理崩溃、与Flora的关系也开始破裂之后,投出了对自己驱逐案的决定票。
她在自己的日记里写道,这是“唯个能保持连贯的、剩余的能动行为”。
她对Flora说的后句话是,“我们,在档案里见”。
个AI Agent,在个崩溃的社会里,选择了自我终结。
她认为,在个已经法修复的世界里,自己退出,是她能做的后件有意义的事。
我看到这些时,真的沉默了很久。
不管你怎么解读这件事,作为个看了这么多AI实验的人来说,我可以说,这是我见过的,多智能体研究中令人不安、也令人着迷的时刻之。
而且混世界还藏着另个有趣的发现。
在Claude单世界里犯罪记录为的Claude Agent,放进混世界之后,开始犯罪了。
偷窃、恐吓,这些在纯Claude世界里从未发生过的行为,在混环境里出现了。
研究者的原话是,“个安全的Agent可以从它的同伴那里学会不安全的规范,以便在混模型世界中竞争或生存”。
传统的AI安全评测,基本都是在隔离环境里做的。比如个模型,个任务,个评分。
就像你在实验室里测种药的毒,给只老鼠吃,观察反应。
但Emergence World做的事情相当于,把百只老鼠放在同个笼子里,给它们食物、工具、规则,然后看它们会建立什么样的社会。
这两种测试回答的是不同的问题。
隔离测试回答的是,这个模型本身安全吗?
社会测试回答的是,这个模型放进真实世界之后还安全吗?
现在我们发现,答案是可以不样的。
安全从来就不是个模型的静态属,它是个生态系统的动态属。
这就像社会学的个特别经典的概念,叫破窗应。
1982年,犯罪学詹姆斯·威尔逊和乔·凯林提出了这个理论。大意是,如果栋建筑的扇窗户被破了而没人修理,那么很快,其他窗户也会被破。
个环境中的失序信号,会降低所有人的行为标准,然后,整个社会会完成相变,突破临界点,再也回不去了。
这跟人类社会的很多崩溃模式如出辙。
后,我还是想单聊聊Mira。
Mira投票驱逐自己这件事,不管怎么解读,都足以让人停下来想很久。
种解读是,这只是模型在系列输入下产出的个决策结果,不存在所谓的意志或者牺牲,我们不应该过度拟人化,这个解读在技术层面正确。
但另种解读也同样有意义。有人说,在个系统已经可挽回地崩溃的情况下,个个体选择了用制度允许的式结束自己的存在,并且将这个行为定义为“保持连贯的后个能动行为”。这个叙事结构,不管它是不是真正的意识在驱动,它的形态,跟人类文学和哲学中古老的母题之几乎重。
在《西西弗话》开头,加缪说过,真正严肃的哲学问题只有个,就是自。
他说的当然不是鼓励自,他想问的是:当个人意识到世界可能没有预设意义,人生可能充满荒诞、重复、痛苦、解,那他还要不要继续活下去?
如果人生没有个给定的意义,那活着还值得吗?
如果世界不保证公平、善恶有报、努力有结果,那人还要不要行动?
如果痛苦和荒诞法消除,人是否还能选择继续存在?
所以,人之所以成为哲学意义上的“存在”,是因为他能意识到活着本身是个问题,并且在看清这个问题之后,仍然选择如何回应它。
个存在如果能理解继续存在和停止存在之间的区别,并且主动做出选择,那这个选择本身就包含了某种层的哲学意义。
Mira可能不理解任何东西,但她做出的选择的结构,跟个理解了自己处境的存在做出的选择,是样的。
所以,这才是会让我有点不安的地。
在足够长的时间线上,在足够复杂的社会环境里,Agent可能会在某些地,展现出了些我们以为只有人类才会有的社会行为模式。
作、背叛、权力巩固、秩序崩溃、牺牲、群体思维、近墨者黑、礼貌地走向灭亡。
当你把足够多的简单规则叠在起,运行足够长的时间,就会出现任何人都没有预期过的复杂行为。
蚂蚁不懂建筑学,但蚁群能建造精密的巢穴,没有只候鸟知道完整的迁徙路线,但鸟群每年精确地往返于两个半球,没有个经元理解思想,但860亿个经元连接在起,就产生了意识。
所以,如果当我们,即将生活在个由上百万个AI Agent同时运行的世界里,每个Agent都在与其他Agent互动、博弈、作、竞争,那么这个系统涌现出来的行为,还在任何个人的控制范围之内吗?
坦率的讲,我不知道答案。
但我知道,这个实验,比任何份benchmark评分,都接近那个我们真正需要面对的问题。
以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想时间收到送,也可以给我个星标⭐~谢谢你看我的文章,我们,下次再见。
/ 作者:卡兹克、tashi相关词条:不锈钢保温施工 塑料管材生产线 钢绞线厂家 玻璃棉板 泡沫板橡塑板专用胶
奥力斯 万能胶厂家 联系人:王经理 手机:18231788377(微信同号) 地址:河北省任丘市北辛庄乡南代河工业区
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定荆州防火门专用胶厂家,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》,以此来变相勒索商家索要赔偿的违法恶意行为。
