onsite
大模型平台研发(训练推理稳定性工程) - TikTok内容安全平台
Backend Engineer
团队介绍:国际化内容安全平台团队致力于为字节跳动国际化产品的用户维护安全可信赖环境,通过开发、迭代机器学习模型和信息系统以更早、更快发掘风险、监控风险、响应紧急事件,以人工智能技术支持业务发展,力求更高效、更敏捷、更全能地维护站内生态安全。 1、训练推理稳定性体系建设:负责大模型训练、推理及配套基础链路的稳定性目标与度量体系(SLI/SLO)设计,建立风险预防、异常发现、应急响应、复盘闭环的全生命周期管理机制,持续降低故障发生率与业务恢复时长; 2、架构风险前置与高可用建设:深入训练与推理研发全周期,参与关键架构方案评审(如PD分离、多机多卡分布式推理、Checkpoint与断点续训等),前置识别单点、容量和容灾风险,推动可观测性、故障隔离、限流降级和弹性伸缩能力落地; 3、变更管控与发布质量:建设面向大模型平台的变更与发布管控机制,落地灰度发布、配置变更审批、危险操作拦截和快速回滚能力,把「可观测、可灰度、可回滚」变成研发默认动作,降低人为变更引发故障的概率和影响面; 4、重大事件与业务高峰保障:负责突发风险事件、全球性重点活动、模型大版本上线等关键节点的稳定性预案、端到端压测、混沌
About the role
团队介绍:国际化内容安全平台团队致力于为字节跳动国际化产品的用户维护安全可信赖环境,通过开发、迭代机器学习模型和信息系统以更早、更快发掘风险、监控风险、响应紧急事件,以人工智能技术支持业务发展,力求更高效、更敏捷、更全能地维护站内生态安全。
1、训练推理稳定性体系建设:负责大模型训练、推理及配套基础链路的稳定性目标与度量体系(SLI/SLO)设计,建立风险预防、异常发现、应急响应、复盘闭环的全生命周期管理机制,持续降低故障发生率与业务恢复时长;
2、架构风险前置与高可用建设:深入训练与推理研发全周期,参与关键架构方案评审(如PD分离、多机多卡分布式推理、Checkpoint与断点续训等),前置识别单点、容量和容灾风险,推动可观测性、故障隔离、限流降级和弹性伸缩能力落地;
3、变更管控与发布质量:建设面向大模型平台的变更与发布管控机制,落地灰度发布、配置变更审批、危险操作拦截和快速回滚能力,把「可观测、可灰度、可回滚」变成研发默认动作,降低人为变更引发故障的概率和影响面;
4、重大事件与业务高峰保障:负责突发风险事件、全球性重点活动、模型大版本上线等关键节点的稳定性预案、端到端压测、混沌演练和重点值守,保障国际化内容安全审核链路在流量高峰和风险突增时持续可用;
5、AI驱动的稳定性运营与工具建设:建设故障智能分析能力,设计故障标签体系、自动化打标、根因推荐和Runbook自动化执行,沉淀知识库、故障案例库和应急演练机制,把个人经验转化为可复用的平台能力和组织资产。
1、本科及以上学历,计算机、通信、电子信息科学等相关专业,3年以上SRE/稳定性工程/AI
Skills
aijavakubernetesvllm