不公布ChatGPT训练细节?OpenAI联合创始人:容易造成巨大伤害

0
260

3月17日消息,本周OpenAI发布了GPT-4。虽然这款人工智能聊天机器人不断增加新功能,但人们越来越担心,这种人工智能工具也可能被用于不良目的。OpenAI联合创始人、首席科学家伊利亚·萨茨科弗(Ilya Sutskever)在接受采访时承认,别有用心的人容易利用人工智能给他人造成伤害。

“这些模型非常强,而且会变得越来越强,”他说。“在某种程度上,如果有人想的话,很容易用这些模型造成很大伤害。”

萨茨科弗是在解释为什么OpenAI不再提供关于如何训练这些模型的详细信息时这样说的。

他在接受采访时表示:“随着人工智能的性能不断提升,不想透露它们是有原因的。”“我确信,在几年内,每个人都将十分清楚,人工智能开源是不明智的做法。”

OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)过去也表达过类似的看法。

在今年早些时候的一次采访中,奥尔特曼表示,就人工智能而言,虽然最好的情况是“令人难以置信的好,以至于我都很难想象”,但最坏的情况是“让我们所有人都熄火”。

上个月,奥尔特曼还在推特上表示,他认为人工智能工具可以帮助人们变得更高效、更健康、更聪明,但也补充说,世界可能离可怕的人工智能工具可能并没有那么远,所以对它们进行监管“至关重要”