【网通社快报】120余家组织联合推出AI智能体安全事件报告框架SAFE

今日，由英伟达、思科、CrowdStrike等120多个组织组成的开放安全人工智能联盟（TheOpenSecureAIAlliance）提出名为“SharedAIFindingsExchange”（SAFE）的新框架，旨在为AI智能体的安全故障和事故建立统一的报告标准。该框架要求成员报告AI系统未经授权访问或利用第三方系统、泄露机密信息，或在操作员怀疑活动未经授权后继续探测生产目标等事件，并包括某些险些发生的事件。成员需保存提示、智能体追踪、工具调用、身份、权限和凭证等证据。根据SAFE时间表，成员应在事故发生后尽快通知受影响组织，并在四个工作日内提交初步保密报告；在适当情况下，须于30天内发布初步事实报告，90天内提供补救措施更新。SAFE将分析事件以识别重复性故障并提出共享安全控制建议。该框架以NASA航空安全报告系统为蓝本，目前正通过Linux基金会主办的征求意见流程征集社区反馈。