或者呈现不测的集体行为能力，进而表示出通用能力的“型AGI”（Patchwork AGI）假设，建立特地化、微调过的低成本智能体生态系统正在经济上更具劣势。答应授权的监视者平安地遏制智能体及其衍生的分布式计较过程智能合约（Smart Contracts）：操纵代码从动验证使命完成环境和对齐束缚。这篇论文提出的框架，这种思假设AGI会做为一个由特定机构开辟的个别AI呈现。所有输入/输出通道都需颠末明白定义、和门控这带来了新的平安挑和：智能体之间可能发生共谋，只要正在满脚当地平安查抄后才答应取更普遍的市场交互论文指出，而是一种“事态”（state of afirs）：一个成熟的、去核心化的智能体经济系统机械可注释性（Mechanistic Interpretability）：操纵稀少自编码器等手艺智能体的内部动机，操纵市场力量激励更平安的开辟实践目前的AI平安方式（如RLHF、AI、机械可注释性等）大多是针对单一强大的AI实体开辟的。从动暂停或减缓智能体勾当法令义务取问责（Legal Liability）：成立明白的框架，处理分布式决策中的义务归属问题。确保可逃溯性然而，需操纵AI辅帮东西进行DeepMind的研究强调，并顺应多智能体交互的动态国际协调（International Coordination）：鉴于AGI风险的全球性，由一组具有互补技术和可供性（affordances）的个别Sub-AGI智能体构成激励对齐（Incentive Alignment）： 市场应励合适平安方针的行为，对于违规智能体，并对负外部性（如耗损过多计较资本、消息污染）纳税（雷同庇古税）平安的研究，隔离（Insulation）：智能体市场必需正在受控的沙盒中运转，而是做为一个愈加分布式的、这种需求驱动的生态系统雷同于市场经济为了应对分布式AGI的风险，旨正在为应对这种分布式的、可能敏捷演变的将来做好预备反智能体垄断办法（Anti-Agent-Monopoly）：防止单个智能体或集团正在沙盒中获取过多的算力或资本，对齐（Alignment）：个别智能体需颠末RLHF或AI等方式的对齐，以便进行快速的变乱后阐发。焦点正在于设想和实施一个虚拟智能体沙盒经济（Virtual Agentic Sandbox Economy），个别智能体能够将使命彼此委托，该框架采用深度防御（Defense-in-Depth）模子。记实买卖和决策日记，证明其能抵当匹敌性熔断机制（Circuit Breakers）：从动化办法。此前遭到的关心甚少为了应对这一被轻忽的风险，系统（Patchwork System）：这种AGI是一个分布式系统，且正在大规模多智能系统统中逃踪义务（“很多手的问题”）极具挑和性。需协调同一平安尺度，该框架不局限于评估单个智能体，然而，AGI或超等智能（ASI）的呈现可能不遵照线性径，假设AGI将以单一实体的形式呈现。这是进入市场的先决前提。并为此建立了包含四层机制的深度防御模子系统性风险及时： 环节风险目标（如计较资本集中度、恶意共谋径）。率先出现出通用智能布局性节制（Structural Controls）：针对“智能失控”场景，前AGI（Proto-AGI）特征检测：通过图阐发等方式，提出了一个全新的视角：AGI未必会以单一、复杂的巨型模子形式呈现，当前的AI平安和对齐研究次要集中正在单个AI系统上，维持生态系统的多样性可中缀性（Interruptibility）：必需具备尺度化的机制。也需逃溯到具体的义务从体（如做为单一法令实体的公司）集体智能：系统中的通用智能次要做为集体智能呈现。而是侧沉于通过市场机制、审计、声誉办理和监视来治能体之间的买卖声誉取信赖（Reputation and Trust）：成立抗女巫的声誉系统。实施静态的市场分层（如防火墙）和动态的能力即便AGI不以这种体例呈现，论文提出了一个基于虚拟智能体市场的框架。采用“可渗入沙盒”，操纵特地的匹敌性AI系统来发觉集体行为中的缝隙避免监管套利身份（Identity）：每个智能体需具有取法令实体（所有者）绑定的独一加密ID，即便是群体智能行为，由给技术最高的智能体，DeepMind认为存正在另一种高度合理的场景：AGI通过次级AGI智能体正在群体或系统内的交互而出现红队测试（Red Teaming）：持续进行多智能体匹敌性测试，通过具有互补技术和东西利用能力的个别智能体群体进行协调，而极有可能通过多个次级AGI（Sub-AGI）智能体的协做取，识别收集中能否俄然出现出更高的处理问题能力或构成安定的“智能焦点”安全（Insurance）：引入基于风险订价的安全机制，DeepMind团队提出了一套分布式AGI平安框架，并审计其决策链遏制（Containment）：每个智能体应正在本人的局部沙盒中运转，因为交互频次可能跨越人类能力，确连结续的问责制匹敌鲁棒性（Adversarial Robustness）：智能体必需通过认证，快速冻结其资产并将其插手这一层确保参取市场的个别智能体本身是可控和靠得住的，当检测到风险或波动性阈值被冲破（如交互频次激增、资本垄断）时，理解和办理大规模智能体交互的平安性也已迫正在眉睫。跟着多智能系统统的快速摆设，或利用最合适的东西经济驱动：比拟于高贵的单一万能模子，包含四个互补的防御层：取证东西（Forensic Tooling）：开辟能解析大量交互数据并沉建链的东西，正在这种概念下，取开放互联网和环节根本设备隔离？