OpenAI Agent 安全负责人：AI 能力跃升考验组织韧性

要说我们对模型在“网络攻击”、“集群行为”、“信息板”或其他相关场景中突然提升的能力感到惊讶，都算是轻描淡写了。建立安全态势需要时间。这不仅仅是加固系统，更要将其融入公司文化。组织中的每个人都需要随之改变和进化。这些能力跳跃发生得太快、太突然，制造了极其棘手的难题。[...]

所以，我今天的希望是，全球各地的每个人都能审视自己的组织并问自己：面对AI能力带来的意外或突然跃升，我该如何应对？我的人员、系统或流程是否具有抵御意外的韧性？我的团队在出问题时是否知道该怎么做？我是否配备了恰当的应急响应机制、沟通渠道和信息策略？当能力跃升时，我是否备好了合适的人手？

— @joedaroo，OpenAI Agent Security，其身份由 The Information 的 Rocket Drew 确认