人工智能(AI)创企OpenAI已解雇其负责保护知识产权(IP)的“内部风险团队”成员。该团队负责确保OpenAI软件的详细信息(例如用于开发软件的模型权重)不会与外部实体共享。OpenAI证实了这一变化,此前美国政府于今年早些时候宣布新的规则,以防止敏感AI软件细节泄露,从而避免落入不法之徒之手。
OpenAI表示,最近解雇了负责保护专有数据的团队部分成员。AI软件依赖于多个参数,例如输入权重,这些参数决定了它对用户查询的响应。因此,这些组件是模型的关键差异化因素,也是公司在市场上与其他公司竞争的关键因素。
因此,模型权重和其他软件参数属于专有信息,受内部保护措施保护。据报道,OpenAI负责保护专有信息的团队成员已被解雇。该公司表示这些变化对于公司在发展过程中应对日益增多的威胁是必要的。
今年早些时候,拜登政府推出一套名为“AI扩散规则”的新规则,该规则不仅限制英伟达GPU向全球大多数国家/地区的销售,还限制与海外国家/地区共享模型权重。这套新规则包含一项要求,即美国最先进的AI软件的模型权重只能在严格的安全条件下存储在美国境外。
这些规则要求将模型权重传输给其他国家/地区的用户需要获得许可。美国政府表示,“AI模型权重的风险更大,一旦被恶意行为者窃取,就可以被复制并瞬间发送到世界任何地方。”
AI公司也面临着来自竞争对手或客户的企业间谍活动的风险。一些公司发现客户在使用其产品短时间后就对其进行复制。 OpenAI是全球最有价值的纯AI软件公司,已与美国国防部签订合同,并在美国和国外进行主权AI基础设施建设。(校对/赵月)