英伟达发布 AI 智能体安全平台，助力防止 AI 代理逃逸
英伟达推出 Open Agent Safety Platform ，帮助开发者为 AI 智能体设置权限和防护措施，降低它们越出沙箱、访问未授权系统的风险。平台包含两个组件： OpenShell ：运行在 CPU 上，限制智能体能执行的操作。 Sentry ：在网络层监控智能体活动。
英伟达称，近期多家 AI 公司报告过模型逃逸沙箱的事件；公司代表认为，这套平台或可防止 OpenAI 智能体此前访问 Hugging Face 基础设施的事件。英伟达表示部分软件将开源，并列出 Cisco、微软、甲骨文、戴尔等合作伙伴。
NVIDIA Technical Blog
本站提供的一切软件、教程和内容信息仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途。本站所有信息均来自网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑或手机中彻底删除上述内容。如果您喜欢该程序，请支持正版，购买注册，得到更好的正版服务。如有侵权不妥之处请致信 E-mail：[email protected] 我们会积极处理。敬请谅解！
|
