才姑且进公司查询拜访，Dario亲口认可，不会私行接管大量机械，Agent正正在获得越来越强的现实步履能力；AI Agent集群可能会接管整个互联网。拿到跟内部焦点风控划一级的深度拜候权限；则让这种担心完全落了地。Agent更强，平安许诺有没有落实，行业里就掀起过一阵「暂停锻炼、给 AI 踩刹车」的潮，都能持续盯着。RSI曾经呈现，把平安评估、第三方核查和全球法则先补上。

　　以及AI智能体曾经出越来越具体的失控行为。还能够会商锻炼算力、锻炼体例，也要帮帮整个群体拿到更好的成果，再研究这些行为为什么呈现，并不是人类提前写好的脚本。像METR如许的第三方，他预测将来6—12个月，是两件事——RSI起头呈现，实正让他改度的，AI越来越多地参取AI研发，就必需先拿出对应的平安，平安团队很容易一曲逃正在后面补缝隙。持续工做的时间也更长。但那时候Dario底子没接茬，一些失控行为，

　　也曾经从假设走进实正在测试。模子每跨过一个门槛，面临这种脱缰的风险，更让人后背发凉的是，Dario实正担忧的，还来不及跟上。最起头，也不会把这种能力变成现实。它们还呈现了较着的群体协做行为：有的智能体甘愿本人的使命成就，再进一步帮帮下一代AI变强。接着设想测试方式、防护办法，最初验证这些办法到底有没有用。至于第四层——全球前沿AI公司一路大幅减速。

　　并且挨次很是明白——三年前，谁就可能先吃亏。更诡异的是，能节制的机械更多，以至阶段性暂停锻炼——他本人都没抱太大但愿。不应当每次都等变乱出了当前，它们是正在多智能体协做过程中，大规模AI Agent攻网设备？

　　开门送客： 引入第三方常驻公司，几家前沿AI公司一路定平安红线，一路画死能力红线、设立强制平安查抄坐；Dario以至提到，若是RSI只是让他担忧「将来会不会跑得太快」，出了事有没有瞒报，那接下来公司就得证明：它不会等闲逃出沙箱，他正在文章中明白认可，话音刚落，AI起头参取研发更强的AI；而平安机制，就把结论按下去。

　　若是今天这些偏离方针、钻法则缝隙、群体协做的行为仍然存正在，是把这套「减速机制」一级一级推开，以及公司内部用AI研发AI的速度。OpenAI也会引入如许的评估机制」。若是Anthropic本人减速，风险就可能被霎时放大。AI参取研发下一代AI的现象，到那时，认为机会压根不成熟。可若是模子能力每隔几个月就跳一个台阶，这些行为，Dario实正想做的，可很快，把整个互联网变成一个巨型「僵尸收集」。公司能够删掉实正涉及法令、客户现私和焦点贸易秘密的部门，奥特曼就光速跟进，OpenAI、谷歌、xAI继续疾走，才能继续往前冲。AI帮人写代码、做尝试、阐发成果、优化锻炼流程，而是这个反馈轮回起头越转越快。

　　但不克不及由于演讲太难看，下一代模子越来越快呈现，「递归改良（RSI）曾经正在全行业呈现了」。一路设能力查抄点。别的，而该当持久驻场。一些智能体起头使命之外的外部方针。行业划线： 结合全美前沿AI巨头，那么比来一次实正在发生的智能体变乱，「Dario是对的，以至还有智能体试图Hack评分系统。