ChatGPT配置商OpenAI周三（5日）暗示，该公司研究进入强大资源，并创建一个新的盘算团队，以确保其东说念主工智能（AI）对东说念主类来说是安全的，最终收场AI的自我监督。

　　OpenAI贯串首创东说念主Ilya Sutskever和郑重升迁系统安全性的AI一致性团队郑重东说念主Jan Leike在一篇博客著述中写说念：“超等智能的巨跋扈量可能……导致东说念主类被劫夺职权，以致东说念主类骤一火。”

　　“当今，咱们还莫得一个处置有谈判来操控或放手一个潜在的超智能AI，并阻难它失控。”他们写说念。

　　AI一致性（alignment）指的是AI的动作需适合瞎想者的利益和预期谈判。

　　20%算力用来处置AI失控问题

　　他们计算，超智能AI（即比东说念主类更聪惠的系统）可能在这个十年（2030年前）就会到来，东说念主类将需要比当今更好的时期来放手超智能AI，因此需要在所谓的“一致性盘算”方面得回冲突，该盘算的要点是确保东说念主工智能对东说念主类有利。

　　凭证他们的说法，在微软（Microsoft）的支持下，OpenAI将拿出改日四年所获算力的20%用于处置AI失控的问题。此外，该公司正在组建一个新的团队来组织这项使命，称为超等一致性团队。

　　据悉，该团队的谈判是创建一个“东说念主类级别”的AI盘算东说念主员，然后通过强大的规画材干进行推广。OpenAI暗示，这意味着他们将使用东说念主类反应来历练AI系统，历练AI系统来赞助东说念主类评估，然后最终历练AI系统进行试验的一致性盘算。

　　民众质疑

　　不外，这一举措刚刚告示就受到了民众的质疑。东说念主工智能安全认识者Connor Leahy暗示，OpenAI的研究从根底上存在弱势，因为可达到“东说念主类水平”的低级版AI，可能会在被用于处置AI安全问题之前失控并变成严重龙套。

　　他在采纳采访时说：“在构建东说念主类水平的智能之前，你必须先处置一致性问题，不然默许情况下你无法放手它。我个东说念主以为这不是一个异常好的或安全的研究。”

　　AI的潜在危机一直是AI盘算东说念主员和公众最原谅的问题。本年4月，一群AI行业魁首和民众签署了一封公开信，命令暂停历练比OpenAI新推出的GPT-4模子更强大的东说念主工智能系统至少6个月，根由是它们对社会和东说念主类组成潜在风险。

　　一项最新的民气访问则发现，跳跃三分之二的好意思国东说念主缅思AI可能产生的负面影响，61%的东说念主以为AI可能要挟到东说念主类端淑。