指盈配资网阿里巴巴首席科学家周靖人：Agent执行要有安全沙箱机制

专题：2026 Inclusion·外滩大会

　　2026Inclusion·外滩大会于2026年9月9日至12日在上海黄浦世博园区举行，本届大会以“共创AI新经济”为主题。

　　阿里巴巴集团首席科学家周靖人表示，在权限层面，可以把Agent类比成一个人，当你给人下达指令时，同时会附带约束条件，明确哪些事情允许他去做。

　　在模型侧，他表示，安全能力已经取得长足进步，但仍有大量工作要持续推进。很关键一点，我们会给模型设置强约束，并且要保证模型始终遵守这些约束，不会因为中途读取其他资料，就弱化对约束条件的理解。

　　他强调，这里要做好区分：一类是硬性限制规则，另一类是任务执行过程中需要处理的数据。处理数据，不等于数据可以覆盖原有约束。比如设定100元以内完成任务，即便模型读到一份材料说要200元，Agent依然必须遵守最开始的限额约束。

　　他到安全与信任问题，他指出还有一个关键点：Agent执行要有安全沙箱机制，防止本意让它做A，结果它执行了B。这套能力由整套Agent系统来管控，提供安全执行环境。

　　他认为，理解Agent的信任问题其实不用想得太复杂，就把Agent当作人来看待。就像和同事协作，分配任务时都会附带约束条件。“Agent之间的协作，和人与人之间协作逻辑相近。只要把约束条件定义清楚，搭建好沙箱执行环境，让模型分清什么是强约束、什么是待处理数据，这个问题就能逐步得到很好解决。”他说。

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。