OpenAI重新任命顶级人工智能安全主管

鞭牛士报道，7月24日消息，据CNBC报道，知情人士向 CNBC 证实，OpenAI 上周解除了其高级安全主管之一亚历山大·马德里 (Aleksander Madry) 的职务，并将其重新分配到专注于人工智能推理的工作。

根据普林斯顿大学人工智能计划网站上 Madry 的个人简介，Madry 是 OpenAI 的应急准备负责人，该团队的任务是跟踪、评估、预测和帮助防范与前沿人工智能模型相关的灾难性风险。

OpenAI 向 CNBC 表示，Madry 在新的职位上仍将从事核心 AI 安全工作。

据该大学网站介绍，他还是麻省理工学院可部署机器学习中心主任以及麻省理工学院人工智能政策论坛的联合负责人，目前正在休假。

在决定重新任命 Madry 不到一周的时间里，一群民主党参议员向 OpenAI 首席执行官 Sam Altman 发送了一封信，询问OpenAI 如何解决新出现的安全问题。

这封于周一发出并被 CNBC 看到的信函还表示，我们寻求 OpenAI 提供更多信息，包括该公司为履行其公开的安全承诺所采取的措施、该公司如何内部评估其履行这些承诺的进展，以及该公司对网络安全威胁的识别和缓解情况。

OpenAI 尚未立即回应置评请求。

立法者要求这家科技初创公司在 8 月 13 日之前就其安全实践和财务承诺的具体问题做出一系列答复。

这是今年夏天围绕 OpenAI 不断增加的安全担忧和争议的一部分，OpenAI 与谷歌、 微软、 Meta 和其他公司一起引领了 生成人工智能 军备竞赛——这个市场的收入预计将在十年内 超过 1 万亿美元 ——似乎每个行业的公司都在竞相添加人工智能聊天机器人和代理，以避免 被竞争对手甩在后面。

本月早些时候，微软 放弃了在 OpenAI 董事会的观察员席位，并在 CNBC 看到的一封信中表示，它现在可以辞职，因为它对该初创公司董事会的架构感到满意。自导致奥特曼短暂下台 并威胁到微软对该公司的巨额投资的起义以来，董事会在八个月内进行了改组。

但上个月，一群现任和前任 OpenAI 员工发表了一封 公开信，描述了他们对人工智能行业快速发展的担忧， 尽管缺乏监督，而且对那些想要发声的人也没有提供举报人保护。

员工们当时写道：人工智能公司有强大的经济动机来逃避有效的监督，我们认为定制的公司治理结构不足以改变这种状况。

这封信发布几天后，一位知情人士向 CNBC 证实，联邦贸易委员会和司法部 将对 OpenAI、微软和英伟达展开反垄断调查，重点关注这些公司的行为。

美国联邦贸易委员会主席莉娜·汗 (Lina Khan) 将 其机构的行动描述为对人工智能开发商和主要云服务提供商之间正在形成的投资和合作关系的市场调查。

现任和前任员工在 6 月份的信中写道，人工智能公司掌握着关于其技术能做什么、他们采取的安全措施的程度以及该技术对不同类型伤害的风险水平的“大量非公开信息”。

他们写道：我们也了解这些技术带来的严重风险，并补充说，这些公司目前只承担了与政府分享部分信息的薄弱义务，而与民间社会则没有任何义务。我们认为，不能指望它们都自愿分享这些信息。

今年 5 月，OpenAI 决定解散其专注于人工智能长期风险的团队，这距离其宣布成立仅一年，一位知情人士当时向 CNBC 证实了这一消息。

这位不愿透露姓名的人士表示，一些团队成员已被重新分配到公司内的其他团队。

该团队在其领导人、OpenAI 联合创始人 Ilya Sutskever 和 Jan Leike 于 5 月宣布离开这家初创公司后解散 。Leike 在 X 上的一篇文章中写道，OpenAI 的安全文化和流程已经让位于闪亮的产品。

阿尔特曼当时在 X 上 表示，他很遗憾看到雷克离开，OpenAI 还有更多工作要做。不久之后，联合创始人格雷格·布罗克曼在 X 上发布了 一份由布罗克曼和首席执行官共同撰写的声明，声称该公司提高了人们对 AGI 风险和机遇的认识，以便世界能够更好地为此做好准备。

「我加入是因为我认为 OpenAI 是世界上进行这项研究的最佳场所。」Leike 当时在 X 上写道。「然而，我与 OpenAI 领导层在公司的核心优先事项上意见分歧已有一段时间，直到我们最终到达了临界点。」

Leike 写道，他认为公司应该将更多的带宽集中在安全、监控、准备、安全和社会影响上。

「这些问题很难解决，我担心我们无法走上正确的轨道。」他写道。「过去几个月，我的团队一直在逆风前行。有时我们为[计算资源]而苦苦挣扎，完成这项至关重要的研究变得越来越困难。」

Leike 补充说，OpenAI 必须成为一家安全第一的 AGI 公司。

「制造比人类更聪明的机器本身就是一项危险的事业。」他当时写道。「OpenAI 代表全人类肩负着巨大的责任。但在过去几年里，安全文化和流程已经让位于闪亮的产品。」

《The Information》首先报道了马德里被调任的消息。

深化智能制造人才培养，优路教育第15期智能制造PLC培训开班

近年来，得益于国家政策的支持与数字化浪潮的持续推动，我国智能制造业的产值规模始终保持着稳健的增长态势。为进一步促进该领域的蓬勃发展，《“十四五”智能制造发展规划》发布，该规划为我国智能制造的未来发展绘制了清晰的蓝图，并明确设定了未来几年内的核心目标。

基于社会对智能制造产业发展和高素质人才的迫切需求，优路教育顺势而为，开设智能制造PLC等培训项目，至今为止，已先后培养多批学员，坚持持续输出智能制造人才，服务产业转型升级。

7月21日，优路教育迎来2024年第15期智能制造PLC项目学员，来自全国各地的学员集聚优路教育创新及运营中心，在智能制造项目负责老师的协助下有序报到，并于次日上午举行智能制造PLC培训开班仪式。

开班仪式中，优路教育智能制造项目负责人王老师通过结合国家相关政策、行业发展前景、当前就业形势等宏观背景，使学员充分了解学习智能制造行业知识，进行智能制造实操培训的重要性。

王老师指出，我国正经历由制造大国向制造强国的转变，不断涌现的科技成果正逐渐代替低成本人工劳动，传统制造业向智能化升级迫在眉睫，智能制造行业人才缺口巨大，亟需更多人才顺应时代。优路教育积极承担职教责任与使命，响应号召，开设智能制造相关培训项目，并被工业和信息化部人才交流中心授予“智能制造产业人才基地”，致力于为行业输送高质量智能制造人才，深入践行职教使命。

紧接着，优路教育智能制造项目教研主管樊老师进行简要发言。据悉，作为优路教育的口碑师资，樊老师专注工业电气自动化领域，具备丰富管理经验与教育培训经验。他表示，优路教育在智能制造项目培训上为学员提供了诸多便利与优势：一方面，讲师团队深耕行业，既懂理论又擅实操，有助于学员融汇学习理论知识与实操技能;另一方面，优路教育大力投入实训基地建设，目前所配备的教学设施均经过严格筛选，为学员学习提供了硬件支撑;优路教育在教学模式上持续创新，致力于为学员提供完善的服务与保障。希望学员始终保持“空杯心态”，在优路教育所提供的各项优势加持下，成长为“知识型+技能型”人才，最终实现职场进阶。

互动环节中，学员们分别对参加此次培训的原因进行分享。较多学员表示，希望通过参加此次培训提升职业技能，以“一技之长”提升个人就业竞争力。

最后，智能制造项目负责人王老师就优路教育发展概况、本期课程教学安排等向学员们进行介绍，使学员对相关课程设置以及教学服务有所了解，为本期培训课程的顺利开展夯实基础。王老师以优路教育“用学习创造美好人生”的使命，“实干、创新、永不言败”的精神为主旨，希望学员在学习中刻苦钻研，提升技能。

当前，智能制造正日益成为推动各个产业体系优化、各种制造模式变革的关键力量，加快智能制造领域发展对于实现制造强国发展目标具有重要战略意义。

一直以来，优路教育持续深研企业对人才素质能力的需求。一方面，以讲师培养为根本，推动教学成果转化;另一方面，以市场需求为导向，聚焦智能制造人才培养，在智能制造项目课程中坚持采用“知识讲授+实操实训”相结合的教学模式，从基础专项知识学习到实操实训演练，共同加持学员多维度学习与成长。

职业教育作为服务经济发展、战略需求的教育类型，在产业升级与转型的大背景下，优路教育将赓续职教责任，助力学员职业进阶，持续输出智能制造领域人才，为培养新时代需要的复合型、知识型、应用型人才发挥职教价值，推动智能制造行业高质量发展。

相关问答

[最佳回答]①顺应时代潮流,充分利用了国家政策,制定了正确的经营战。(3分)②依靠科技进步,加强科学管理,提高自主创新能力,形成了自己的竞争优势。(3分)③鼓...

随着智能科技、机器人以及大数据越来越丰富和方便我们的生活,对于智能医学的概念也被提出来,国家大力发展5G网络,其中一项很重要的意义就是为这方面铺路做准备...

郑栩栩,男,47岁,大学本科,高级工程师,巨轮智能装备股份有限公司生产部经理,副总经理,现任巨轮智能装备股份有限公司第六届董事会副董事长、总裁;巨轮股份...

知识点:硬件原理/软件原理/工艺/zigbee协议/用户习惯/场景应用/等。此外,还有多想、多设想,才能看的远。一个优秀的产品经理可以减少很多弯路,就智能家居开...

具体...因为:机器人专业的毕业生未来可以在大型企业、高校、科研院所等方向从事技术攻关、产品开发、技术服务、教学科研、营销管理等一系列工作,具体如下:1...

谢谢邀请!简单点说吧:1、对AI的历史要有一定的了解和理解,2、对概率论等统计相关的理论有扎实的基础,3、对AI应用的局限性有一定认知,4、了解模型的原理,5...

最近一直在关注这个问题,有幸和一个计算机视觉创业团队的产品VP聊了聊(有成型产品在市场上试运营),有如下感悟。1硬技能我问他,你们招产品经理,都看重那...

价值、五大优势:1.强大的设计力量和技术团队2.国际化视野与国际化标准3.标准化作业体系4.一站式服务模式5.独享的顾问式贴身服务业务介绍如下:网...专注于...

人工智能其实主要在于思维该如何学习就是主要改变你的思维方式很多人把人工智能当作是编程然后把学习编程作为人工智能这就没有得到人工智能的要领而要作为...

人工智能销售岗位包括销售经理、销售代表、销售工程师等职位。人工智能行业应用广泛,对销售业务的需求也更加多元化。销售经理需要具备团队管理能力和市场研...