OpenAI设立Preparedness团队评估AI安全风险防范外界滥用

发布时间：2023-10-28 12:01:56 所属栏目：外闻来源：未知

导读： 　　OpenAI 今日宣布，他们正在组建一个团队，名为 Preparedness，目的是评估通用 AI（AGI）可能带来的灾难性风险，该团队交由麻省理工学院（MIT）的可部署机器学习中心主任 Aleksander Ma

　　OpenAI 今日宣布，他们正在组建一个团队，名为 Preparedness，目的是评估通用 AI（AGI）可能带来的灾难性风险，该团队交由麻省理工学院（MIT）的可部署机器学习中心主任 Aleksander Madry 主导。

　　OpenAI 表示，未来的 AI 模型虽然拥有造福全人类的潜力，但也可能带来严重的风险，因此需要建立一个强大的框架来监控、评估、预测及防范这些 AI 模型。

　　根据报道称，开放人工智能组织成立了备战小组以应对不同能力的评估和对抗性试验，以追踪、预测及防范各类别的灾难性风险。

　　发现，OpenAI 宣称的相关风险，主要包含以下三大类：

　　说服人类能力：AI输出的内容是否会影响人类的行为生成不当内容：AI 是否会生成有关化学 / 生物 / 放射性 / 核（CBRN）等危险内容自主复制与适应能力（Autonomous Replication and Adaptation，ARA）：AI 是否会在自我迭代中脱离人类的控制

　　OpenAI 已开始招募不同背景的人才加入 Preparedness 团队，同时推出 AI Preparedness 挑战赛，鼓励参赛者以黑客名义，“破解”Whisper、Voice、GPT-4V、DALLE3 等模型，前 10 名将可获得 OpenAI 所提供的、价值 2.5 万美元（IT之家备注：当前约 18.3 万元人民币）的 API 使用额度。万元人民币）的api使用额度。openai的目标是通过开源技术，为全球用户提供一个更好的语音交互平台，让人们在任何地方都能轻松使用自己的声音。

（编辑：西安站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!