OpenAI成立新的安全顾问委员会 成员全是自己人,Altman,安保(bao),野生智能
OpenAI周二宣告成立一个新的安全顾问委员会，负责监督与公司项目和(he)运营相(xiang)关的“枢纽”安全和(he)安保(bao)决议。而(er)值得注重的是，进入该安全顾问委员会的成员全部为该公司内部职员，包括OpenAI的CEO Sam Altman，外部职员一个也没(mei)有。
根(gen)据OpenAI公司博客上的一篇文章，安全顾问委员会将在(zai)接下来(lai)90天内负责评(ping)估OpenAI得安全流程和(he)保(bao)证(zheng)措(cuo)施(shi)。然后，该委员会将向(xiang)OpenAI董事会汇报其发现和(he)建议，OpenAI透露表(biao)现，届时将以符合安全和(he)安保(bao)的方式公布任何已采(cai)纳的建议的更新。
OpenAI周二透露表(biao)现，已开始训练新一代旗舰野生智能模型，以期超越(yue)现在(zai)的GPT-4大模型。“OpenAI近来(lai)开始训练其下一个前沿模型，我(wo)们预(yu)计由此发生的零碎将使我(wo)们在(zai)通往通用野生智能的门路上迈上一个新台阶，”OpenAI写道。“固然我(wo)们很(hen)自大地构建和(he)发布在(zai)本(ben)领和(he)安全方面(mian)都(dou)抢先的模型，但我(wo)们迎接在(zai)这个紧张时候举行深(shen)入讨论。”
除了Altman，安全顾问委员会的其他成员包括OpenAI董事会成员Bret Taylor、Adam D’Angelo和(he)Nicole Seligman，以及首席科学家Jakub Pachocki、OpenAI早期筹(chou)备团队的Aleksander Madry、安全零碎负责人Lilian Weng、安保(bao)负责人Matt Knight和(he)“野生智能对(dui)齐”（AI Alignment）负责人John Schulman。
安全不再优先 多名高层离职
已往几(ji)个月，OpenAI的技术团队中有多名安全方面(mian)的高层职员离职，这些前员工中有些人对(dui)OpenAI在(zai)AI安全方面(mian)的优先级下落透露表(biao)现担忧。
曾在(zai)OpenAI担当团队治理工作的Daniel Kokotajlo在(zai)4月告退(tui)，因为他对(dui)OpenAI在(zai)发布越(yue)来(lai)越(yue)壮大的AI时“负责任的行为”失去了决心，他在(zai)小我(wo)私家博客上写道。此外，OpenAI的联合创始人兼(jian)前首席科学家Ilya Sutskever在(zai)与Altman及其盟(meng)友的长时间斗争后，于5月离职，据报导部分(fen)原因是Altman急(ji)于推(tui)出AI驱动的产物而(er)牺牲了安全性能。
近来(lai)，前DeepMind研究员Jan Leike此前在(zai)OpenAI负责开发ChatGPT及其前身InstructGPT的历程中，也辞去了安全研究员职务，他在(zai)一系列X平台的帖子中透露表(biao)现，他认为OpenAI“未走在(zai)解(jie)决AI安全和(he)安保(bao)问题(ti)的正确轨道上”。同时，AI政策研究员Gretchen Krueger上周离开OpenAI，她也同意Leike的观点，呼吁公司提(ti)高问责制和(he)透明度，并“更加谨慎地使用自己的技术”。
媒(mei)体报导，除了Sutskever、Kokotajlo、Leike和(he)Krueger，自去年年底(di)以来(lai)，至多有五名OpenAI最重视安全的员工要末告退(tui)，要末被迫离开，包括前OpenAI董事会成员Helen Toner和(he)Tasha McCauley。两人日前在(zai)媒(mei)体撰文称，在(zai)Altman的向(xiang)导下，他们相(xiang)信OpenAI无法完成对(dui)自身追究责任。
“根(gen)据我(wo)们的经验，OpenAI的自我(wo)治理无法承受利润鼓励带来(lai)的勾引。”
“根(gen)据我(wo)们的经验，OpenAI的自我(wo)治理无法承受利润鼓励带来(lai)的勾引。”
此前有媒(mei)体报导，负责开发“超等智能”AI零碎治理方法的OpenAI超等对(dui)齐（Superalignment team）团队被答应(ying)得到公司20%的计算资源，但实(shi)际(ji)上却很(hen)少这部分(fen)资源。超等对(dui)齐团队自那以后被遣散，其工作大部分(fen)被转交给“野生智能对(dui)齐”（AI Alignment）负责人John Schulman和(he)OpenAI在(zai)12月成立的安全咨询小组。
固然OpenAI一直在(zai)提(ti)倡AI监管，但也在(zai)积极影响塑造这些监管，该公司聘请了一名内部游说者和(he)越(yue)来(lai)越(yue)多的外部律师(shi)事务所游说者，仅在(zai)美国游说方面(mian)该公司2023年第四季(ji)度就花(hua)费了数十万美元。近来(lai)，美国国土安全部宣告Altman将成为其新成立的野生智能安全和(he)安保(bao)委员会（Artificial Intelligence Safety and Security Board）的成员，该委员会将为“安全和(he)靠得住的AI开发和(he)部署”提(ti)供建议，以笼盖美国的枢纽基础设施(shi)。
而(er)为了不由于安全和(he)安保(bao)委员会全部为内部高管而(er)被认为是橡皮(pi)图章，OpenAI答应(ying)聘请第三方“安全、安保(bao)和(he)技术”专家来(lai)支持委员会的工作，包括网络安全专家Rob Joyce和(he)前美国司法部官员John Carlin。
然而(er)，除了Joyce和(he)Carlin，OpenAI还没(mei)有详细说明该外部专家组的规模和(he)构成，也没(mei)有透露该组对(dui)委员会的影响力和(he)权力的限制。有专家指出，OpenAI成立此类的企业监督委员会，类似于谷歌的高级技术外部咨询委员会，其实(shi)在(zai)实(shi)际(ji)监督方面(mian)几(ji)乎没(mei)有甚么作为。