消息来源：IT之家
2024年9月17日，知名人工智能公司OpenAI宣布，其安全与安保委员会将改组为一个独立的董事会监督委员会，并宣布原委员会主席阿尔特曼（Sam Altman）已退出。此次改组旨在加强公司对AI安全和长期风险的监管，以应对日益增长的公众关注。
改组背景
OpenAI成立于2015年，是一家专注于人工智能研发的公司。近年来，随着AI技术的快速发展，其潜在风险也日益凸显。为此，OpenAI于今年5月29日宣布成立安全与安保委员会，负责就公司项目和运营中的关键安全与保障决策提出建议。
然而，近日有五名美国参议员联合致信OpenAI，对公司的政策提出质疑。信中指出，OpenAI早期曾专注于AI长期风险的员工中，已有近一半离职，他们大都指责阿尔特曼反对“真正的AI监管”。
独立监督委员会成立
为应对外界关切，OpenAI宣布将安全与安保委员会改组为一个独立的董事会监督委员会。新委员会由卡内基梅隆大学计算机科学学院机器学习系主任Zico Kolter担任主席，成员包括Quora联合创始人兼首席执行官Adam D’Angelo、美国退役陆军上将Paul Nakasone和索尼公司前执行副总裁兼总法律顾问Nicole Seligman，均为OpenAI董事会现有成员。
阿尔特曼退出
此次改组中，原安全与安保委员会主席阿尔特曼已退出。据悉，阿尔特曼曾表示，他对AI长期风险持有谨慎态度，并反对过于严格的监管。此举引发了外界对其领导力的质疑。
加强AI安全监管
OpenAI表示，新成立的董事会监督委员会将对公司主要模型进行安全审查，并保留在解决安全问题之前延迟发布的权力。据称，在公司的内部评估中，最新AI模型o1被评为“中等风险”。
此外，OpenAI还表示，正在努力采纳委员会的建议，以提高透明度和与外部团体的合作，并在越来越多的产品团队中统一其安全实践。
OpenAI融资传闻
据悉，OpenAI正在进行一轮融资，筹集65亿美元以上，这将使公司估值超过1500亿美元。为了达成这笔交易，OpenAI可能放弃其混合非营利公司结构，转变为传统的营利性公司。
总结
OpenAI此次改组安全与安保委员会，旨在加强AI安全监管，应对外界关切。随着AI技术的不断发展，加强AI安全监管已成为全球共识。OpenAI此举有望为AI行业树立榜样，推动行业健康发展。
Views: 0