模型评测大模型算法工程师-Flow安全

浙江省杭州市
长期
全职

1个月前

团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、圣何塞均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。1、构建和完善AI安全评估集：针对各种安全垂类场景，为AI For Security设计并构建全面、深入且具有挑战性的评估数据集和基准；
2、探索模型在安全场景的内在一致性与性能预测：深入研究大模型在安全任务训练阶段的性能表现，模型在安全领域的性能上限；
3、从可解释性角度制定安全评测标准：探索并提出更多基于模型内在机理的可解释性评测标准，以评估大模型在安全决策和修复中的透明度和可靠性；
4、Red Teaming与模型优化：从评测角度对大模型进行Red Teaming，系统性地发现模型在安全领域的短板，并针对性地提出模型改进策略；
5、RAG评估体系建设：包括设计面向安全垂类场景的RAG系统端到端的评估指标和基准测试，构建自动化评估流程，开发RAG系统的可解释性和可追溯性工具。职位要求:1、2026届获得硕士及以上学位，计算机、人工智能和信息安全等相关专业优先；
2、扎实的代码与算法功底：优秀的代码能力、数据结构和基础算法功底，熟练掌握至少一门主流编程语言（如Python、Java、C++等），ACM/ICPC、NOI/IOI、Top Coder、Kaggle等比赛获奖者优先；
3、熟悉AI相关技术栈：熟悉NLP、CV、ML等相关的技术，并深入理解大模型相关技术栈（如Reward Model、GRPO/PPO/DPO、SFT/RFT、CT、PE等），对安全领域相关模型（如漏洞检测模型、恶意代码分析模型）有了解者优先；

字节跳动

立即申请