当地时间周二（5月28日），OpenAI发布公告称董事会成立一个负责把控AI开发方向的安全顾问委员会。
OpenAI成立新的安全顾问委员会 成员全是自己人
OpenAI周二宣布成立一个新的安全顾问委员会，负责监督与公司项目和运营相关的“关键”安全和安保决策。而值得注意的是，进入该安全顾问委员会的成员全部为该公司内部人员，包括董事Bret Taylor（主席）、Adam D’Angelo、Nicole Seligman和Sam Altman（首席执行官），外部人员一个也没有。该委员会将负责向全体董事会就OpenAI项目和运营的关键安全和安全决策提出建议。
安全与安全委员会的首要任务将是在未来90天内评估并进一步发展OpenAI的流程和保障措施。90天结束时，安全与安全委员会将与全体董事会分享他们的建议。在全体董事会审查之后，OpenAI将以符合安全和安全的方式，公开分享有关采纳建议的更新。
OpenAI董事会表示，OpenAI的技术与政策专家Aleksander Madry（准备状况负责人）、Lilian Weng（安全系统负责人）、John Schulman（对齐科学负责人）、Matt Knight（安全负责人）以及Jakub Pachocki（首席科学家）也将加入该委员会。
此外，OpenAI将保留并咨询其他安全、安全和技术专家以支持这项工作，包括前网络安全官员Rob Joyce，他为OpenAI提供安全方面的咨询，以及John Carlin。
过去几个月，OpenAI的技术团队中有多名安全方面的高层人员离职，这些前员工中有些人对OpenAI在AI安全方面的优先级下降表示担忧。
曾在OpenAI担任团队治理工作的Daniel Kokotajlo在4月辞职，因为他对OpenAI在发布越来越强大的AI时“负责任的行为”失去了信心，他在个人博客上写道。此外，OpenAI的联合创始人兼前首席科学家Ilya Sutskever在与Altman及其盟友的长期斗争后，于5月离职，据报道部分原因是Altman急于推出AI驱动的产品而牺牲了安全性能。
最近，前DeepMind研究员Jan Leike此前在OpenAI负责开发ChatGPT及其前身InstructGPT的过程中，也辞去了安全研究员职务，他在一系列X平台的帖子中表示，他认为OpenAI“未走在解决AI安全和安保问题的正确轨道上”。同时，AI政策研究员Gretchen Krueger上周离开OpenAI，她也同意Leike的观点，呼吁公司提高问责制和透明度，并“更加谨慎地使用自己的技术”。
媒体报道，除了Sutskever、Kokotajlo、Leike和Krueger，自去年年底以来，至少有五名OpenAI最重视安全的员工要么辞职，要么被迫离开，包括前OpenAI董事会成员Helen Toner和Tasha McCauley。两人日前在媒体撰文称，在Altman的领导下，他们相信OpenAI无法实现对自身追究责任。
OpenAI宣布已启动下一代前沿模型训练 AGI愿景变得更加务实
值得注意的是，还有一条重磅消息：OpenAI在公告中表示，最近开始训练其下一代前沿模型，以期超越目前的GPT-4大模型。我们预计这些系统将使我们在通往人工通用智能（AGI）的道路上达到更高的能力水平。虽然我们自豪地构建并发布了在能力和安全性方面都处于行业领先地位的模型，但我们在这个重要时刻欢迎一场激烈的辩论。
作为背景，OpenAI在2023年3月发布GPT-4。单单凭借总裁布洛克曼画在笔记本上的草图，GPT-4就能构建出一个真实的网站。相信有不少股民，也是从看到这一幕后才开始相信“AI或许真的能改变些什么”。
图片来源：OpenAI
自那以后，OpenAI围绕着GPT-4逐步推出一系列文字、图片、音频和视频生成应用。就在两周前，公司刚刚发布了最新版本的GPT-4o。通过显著提高模型的交互速率，实现了像真人对话一样的“实时互动”。归根结底，各方面都稍强一些的GPT-4o依然没有跳脱出GPT-4的能力范畴。
正因如此，外界对于“GPT-5”的期待一直颇高。不过根据OpenAI最新的表述，下一代大模型恐怕要到明年才能与公众见面。AI模型通常需要数月、乃至几年时间来训练，而在面向公众发布前，开发团队还需要进行数月的微调。
随着OpenAI构建的AI越来越接近人类智慧的水平，公司在通用人工智能方面的表述也变得更加谨慎。
OpenAI全球事务副总裁Anna Makanju表示，OpenAI的使命是构建可以做到“当前人类认知水平”任务的通用智能。
早些年Sam Altman曾说过，OpenAI的最终目标是构建比人类更加先进的“超级智能”。他还曾表示，自己有一半的时间是在构想如何打造“超级人工智能”。
津公网安备12011002023007号