OpenAI 安全副总裁翁荔离职，将专注博客更新
OpenAI 安全副总裁、北大校友翁荔（Lilian Weng）宣布离开 OpenAI，开启新的征程。 这位在 OpenAI 工作近 7 年的华人科学家表示，未来将有更多时间专注于更新她的技术博客 Lil’Log。
翁荔在 X 上发布了离职消息，并分享了写给团队的离职信。信中，她回顾了在 OpenAI 的成长历程，并对团队取得的成就表示自豪。她参与了 GPT-4 项目的预训练、强化学习 & 对齐、模型安全等方面的工作，并领导了应用人工智能研究团队，为 OpenAI 的 API 贡献良多。
翁荔的离职信中也表达了对未来的期待，她将重新开始，探索新的领域。同时，她明确表示将继续更新她的技术博客 Lil’Log，并可能会有更多时间进行编程。
翁荔的博客 Lil’Log 深入、细致，具有前瞻性，被很多 AI 研究者视为重要的参考资料。 她的博客涵盖了深度学习、强化学习、自然语言处理等多个领域，内容丰富，分析透彻，并经常分享她对 AI 领域的思考和见解。
翁荔的离职是 OpenAI 近期高管离职潮的最新案例。 自从 Sam Altman 重新执掌 OpenAI 以来，该公司就陷入了持续不断的高管离职潮中。虽然近段时间有些外部新高管加入，但很显然这个离职潮仍未结束。
翁荔的离职对 OpenAI 来说是一个损失，但她的博客将继续为 AI 研究者提供宝贵的资源。 她的离开也引发了人们对 OpenAI未来发展方向的思考。
以下是翁荔的博客地址：
https://lilianweng.github.io/
以下是翁荔与团队分享的离职信的中文版：
亲爱的朋友们，
我做出了离开 OpenAI 的艰难决定。11 月 15 日将是我在办公室的最后一天。OpenAI 是我成长为科学家和团队领导者的地方，我将永远珍惜与我一路共事和结交的朋友在一起的时光。OpenAI 团队一直是我的知己、老师，也是我身份认同的一部分。
我还记得 2017 年OpenAI 的使命让我多么着迷，一群人梦想着一个不可能实现的科幻未来。在这里，我一开始研究的是全栈机器人难题——从深度强化学习算法到感知再到固件——目标是教会单台机械手如何解决魔方问题。整个团队花了两年时间，但我们最终做到了。
当 OpenAI 进入 GPT 范式，我们开始探索将最佳 AI 模型部署到现实世界的方法时，我组建了第一个应用研究（Applied Research）团队，推出了微调 API、嵌入 API 和审核端点的初始版本，为应用安全工作奠定了基础，并为许多早期API 客户提供了新的解决方案。
GPT-4 发布后，我被要求接受一项新挑战，重新考虑 OpenAI 安全系统的愿景，并将工作集中在一个拥有完整安全椎栈的团队之下。那是我曾做过的最困难、压力最大又最激动人心的事情之一。
现在，安全系统（Satety Systems）团队有超过 80 位出色的科学家、工程师、产品经理、政策专家，而且我为我们作为一个团队所取得的一切成就感到非常自豪。我们一起成为了每次发布的基石——从 GPT-4 及其视觉和 turbo 版本到 GPT Store、语音功能和 o1。我们在训练这些模型使其既强大又负责任方面所做的工作为行业树立了新的标准。
我为我们在 o1-preview 模型方面取得的最新成就感到特别自豪，它是我们迄今为止最安全的模型，在保持其实用性的同时，表现出对越狱攻击的卓越抵抗力。
我们一起取得了令人瞩目的成就：我们训练模型使其明白，通过遵循一套定义明确的模型安全行为政策，可以让其很好地拒绝敏感或不安全的请求，包括何时拒绝或不拒绝，从而在安全性和实用性之间取得良好的平衡。
在每次模型发布时，我们都提高了其对抗稳健性，包括防御越狱攻击、指令层次结构以及通过推理大幅提升稳健性。我们在透明度方面的承诺都已体现在我们详细的模型系统卡中。
我们开发了业界领先的具有多模态能力的审核模型，并免费分享给了公众。我们目前在更通用的监控框架和增强的安全推理能力方面的工作将为更多的安全工作流提供支持。
我们为安全数据记录、指标、仪表板、主动学习管道、分类器部署、推理时间过滤和全新的快速响应系统建立了工程开发基础。
回顾我们所取得的成就，我为安全系统团队的每个人都感到骄傲，我非常有信心团队将继续蓬勃发展。我爱你们❤️。
现在，在 OpenAI 工作了 7 年后，我准备重新开始并探索一些新东西。OpenAI 正处于火箭般的增长轨迹上，我只希望这里的每个人都一切顺利。
附言：我的博客还在，会继续下去。我可能很快就会有时间更频繁地更新它，也可能会有更多时间来编程；)
爱你们的，
Lilian
Views: 0