专题：ai_safety

OpenAI Model Spec框架为AI模型设定公开行为规范，平衡性能、安全与责任。其核心亮点在于风险评估、透明度和伦理考量，适用于AI系统开发与部署的指导。

OpenAI推出青少年安全AI政策工具，供开发者参考，帮助管理与青少年相关的AI风险。该工具涵盖内容过滤、隐私保护和行为引导，旨在提升AI在青少年群体中的安全性。政策基于提示机制，适用于GPT-OS-Safeguard系统，是AI伦理治理的重要实践。

本文聚焦代理架构中的安全边界设计，分析了不同架构下的实现方法及其在防御攻击中的作用，强调了明确边界对系统安全的重要性，具有较高的技术参考价值。

本期《人工智能进口》探讨了语言模型信念变化、AI安全训练方法、超级智能的地缘政治风险及AI人格的法律定义。研究指出模型可通过对话或上下文调整信念，BCT方法能有效减少破解风险，而Conjecture警告超级智能可能引发全球性灾难。AI人格的实用主义定义为法律整合提供了新思路。

文章提出AI安全的核心在于让AI‘愿意’与人类合作，而非单纯限制行为。通过‘知道’、‘想要’和‘成功’三个维度构建理论框架，引用多位专家观点，探讨AI对齐的挑战与可能解决方案，对研究人员和从业者具有参考价值。