應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊個人注冊登錄

為何不公布 ChatGPT 訓(xùn)練細(xì)節(jié)?OpenAI 聯(lián)合創(chuàng)始人稱“容易造成巨大傷害”,反對人工智能開源

2023-03-17 10:18 網(wǎng)易科技
關(guān)鍵詞:開源GPT4.0

導(dǎo)讀:本周 OpenAI 發(fā)布了 GPT-4。雖然這款人工智能聊天機(jī)器人不斷增加新功能,但人們越來越擔(dān)心,這種人工智能工具也可能被用于不良目的。

3 月 17 日消息,本周 OpenAI 發(fā)布了 GPT-4。雖然這款人工智能聊天機(jī)器人不斷增加新功能,但人們越來越擔(dān)心,這種人工智能工具也可能被用于不良目的。OpenAI 聯(lián)合創(chuàng)始人、首席科學(xué)家伊利亞?薩茨科弗(Ilya Sutskever)在接受采訪時承認(rèn),別有用心的人容易利用人工智能給他人造成傷害。

“這些模型非常強(qiáng),而且會變得越來越強(qiáng),”他說。“在某種程度上,如果有人想的話,很容易用這些模型造成很大傷害。”

薩茨科弗是在解釋為什么 OpenAI 不再提供關(guān)于如何訓(xùn)練這些模型的詳細(xì)信息時這樣說的。

他在接受采訪時表示:“隨著人工智能的性能不斷提升,不想透露它們是有原因的?!薄拔掖_信,在幾年內(nèi),每個人都將十分清楚,人工智能開源是不明智的做法?!?/p>

OpenAI 首席執(zhí)行官薩姆?奧爾特曼 (Sam Altman) 過去也表達(dá)過類似的看法。

在今年早些時候的一次采訪中,奧爾特曼表示,就人工智能而言,雖然最好的情況是“令人難以置信的好,以至于我都很難想象”,但最壞的情況是“讓我們所有人都熄火”。

上個月,奧爾特曼還在推特上表示,他認(rèn)為人工智能工具可以幫助人們變得更高效、更健康、更聰明,但也補(bǔ)充說,世界可能離可怕的人工智能工具可能并沒有那么遠(yuǎn),所以對它們進(jìn)行監(jiān)管“至關(guān)重要”。