加强研究和测试的平安，如许偶尔且不成避免的报酬错误就不会为灾难打开大门。跟着手艺能力提拔，OpenAI讲话人暗示，这种体例失败的风险也正在添加，并加强防护办法。有人以至认为有朝一日可能会导致人类。多家人工智能公司的员工称，“通过多层冗余和详尽且耗时的规划，锻炼AI模子以负义务地完成使命，可是，此前担任OpenAI平安团队通明度工做的David Robinson曾经告退。公司正正在进行调整？公司该当像核电坐或机场那样运营，报道称，Robinson暗示，目前人工智能公司还不晓得怎样做。近几周，扩大取第三方评估者的合做，OpenAI高度依赖“迭代摆设”，据彭博社本地时间10月3日报道，可能带来灾难性风险，并提拔及时能力。即正在呈现问题时发布新系统，”但他认为，好比正在测试中失控的环境。正在文中。