偏好对齐数据揭秘：清华博士解构“三驾马车”
摘要： 清华大学、哈尔滨工业大学和阿里安全的研究团队近日提出了AIR框架，深入剖析了影响大语言模型（LLMs）对齐效果的关键因素…
北大发布 Aligner：残差修正模型对齐突破
北京， – 在人工智能领域，大型语言模型（LLM）的对齐问题一直是研究的重点。近日，北京大学的研究团队推出了一种名为…
北大重磅发布：残差修正模型对齐技术Aligner
北京， – 在人工智能领域，大语言模型（LLMs）的对齐问题一直是研究的热点。近日，北京大学的研究团队推出了一项名为…
北大重磅！残差修正模型对齐技术问世
好的，这是一篇基于您提供的资料，并按照您提出的专业新闻写作要求撰写的文章： 标题：北大推出“Aligner”：残差修正模型对齐技…
谷歌InfAlign：对齐语言模型新思路，突破KL-RL局限
谷歌InfAlign：推理时对齐语言模型的新思路，突破传统训练瓶颈 旧金山 — 人工智能领域的研究者们长期以来都在探索如何更好地…
慢思考对齐OpenAI，AI安全新思路
好的，根据你提供的信息，我将撰写一篇新闻报道，力求专业、深入且引人入胜。 标题：慢思考，大安全：北交大、鹏城实验室“系统2对齐”…
豆包大模型7个月速成，全面对标GPT-4o
北京—— 2024年12月30日，字节跳动旗下豆包大模型团队对外公布了其在2024年度取得的全方位技术进展。令人瞩目的是，自5月…
人类自身都对不齐，如何对齐AI？
人类自身都对不齐，怎么对齐AI？新研究全面审视偏好在AI对齐中的作用 引言 让 AI 与人类价值观对齐一直是 AI 领域的一大重…
腾讯推出ELLA：扩散模型适配器，增强语义对齐
腾讯推出ELLA：扩散模型适配器，增强语义对齐，提升文本到图像生成质量 北京，2024年4月1日 – 腾讯AI团队近…
ML笔记：在大语言模型中，监督微调 （SFT）和 对齐（PPO、DPO）有什么不同的作用？
在大语言模型（LLM）中，监督微调（SFT）和对齐（PPO、DPO）是两种不同的技术手段，它们在模型优化和任务适应上有不同的作用…
AI对齐新突破：RLHF引领LLM价值观同步
随着人工智能技术的不断进步，大型语言模型（LLM）已经成为推动信息处理和知识生成的重要力量。然而，这些模型在生成文本时有时会出现…