招聘安全工程师加入AI输出确定性验证开源项目
Reddit r/LocalLLaMA2026/02/22 18:23机翻/自动摘要/自动分类
5 阅读
内容评分
技术含量
6/10
营销水分
2/10
摘要
QWED‑AI 是一个开源项目，使用 SymPy、Z3、AST 与 schema validation 对 AI 生成的数学、SQL、结构化数据等输出进行确定性验证，已具备 SBOM、CI 安全检查、OpenSSF Silver 徽章和签名容器等功能。项目现招聘安全工程师，负责威胁模型审查、供应链加固、验证方法改进及运行时漏洞发现，适合关注高风险环境 AI 安全的技术人才。
正文
大家好，
我是 QWED‑AI 项目的维护者。我们的项目致力于在 AI 系统生成的输出（如数学表达式、SQL 代码、结构化数据等）投入实际使用前，利用 SymPy、Z3、抽象语法树（AST）分析和模式验证（schema validation）进行严格的确定性检查。
项目定位
- 目标场景：金融、关键基础设施自动化、CI/CD 流水线等高风险环境的运行时安全验证。
- 与自由形式生成不同，我们只关注“可验证、可审计”的输出。
已实现功能（Apache‑2.0）
- 自动生成软件成分清单（SBOM）
- CI 安全检测（集成 Snyk、Sonar）
- 获得 OpenSSF Silver 徽章
- 使用签名容器（Docker DSOS）
我们需要的安全工程师
- 审阅并完善项目的威胁模型（threat model）
- 为供应链安全提供加固建议
- 优化现有的确定性验证方法
- 发现并修复运行时验证流程中的潜在漏洞
仓库地址： https://github.com/QWED-AI/qwed-verification
如果你对在高风险场景下为 AI 输出提供安全保障感兴趣，或发现设计中有任何不足，欢迎直接在仓库提交 Issue 或 PR。期待你的加入！