OpenAI表示，它正在成立一个安全和安全委员会，并已开始培训一种新的人工智能模型，以取代支撑其ChatGPT聊天机器人的GPT-4系统。

这家旧金山初创公司周二在一篇博客文章中表示，该委员会将就其项目和运营的“关键安全和安保决策”向全体董事会提供建议。

安全委员会成立之际，围绕该公司人工智能安全的争论正在升温。在研究员简·莱克(Jan Leike)辞职并批评OpenAI让安全“让位于闪亮的产品”后，该公司的人工智能安全问题被推到了聚光灯下。OpenAI联合创始人兼首席科学家伊利亚·苏斯克维尔也辞职了，该公司解散了他们共同领导的专注于人工智能风险的“超级联盟”团队。

雷克周二表示，他将加入openai前领导人创立的人工智能竞争对手Anthropic，在那里“继续超级联盟使命”。

OpenAI表示，“最近开始训练下一个前沿模型”，其人工智能模型在能力和安全性方面领先于行业，但没有提及争议。“我们欢迎在这个重要时刻进行激烈的辩论，”该公司表示。

人工智能模型是经过大量数据集训练的预测系统，可以按需生成文本、图像、视频和类似人类的对话。前沿模型是最强大、最尖端的人工智能系统。

安全委员会由公司内部人士组成，包括OpenAI首席执行官萨姆·奥特曼和董事长布雷特·泰勒，以及四位OpenAI技术和政策专家。董事会成员还包括Quora首席执行官亚当•德安吉洛和索尼前总法律顾问妮可•塞利格曼。

该委员会的首要工作将是评估和进一步发展OpenAI的流程和保障措施，并在90天内向董事会提出建议。该公司表示，届时将“以符合安全和保障的方式”公开发布其采纳的建议。

- - -

美联社和OpenAI签署了一项许可和技术协议，允许OpenAI访问美联社的部分文本档案。

出版: