大公網(wǎng)

大公報(bào)電子版
首頁 > 新聞 > 國(guó)際 > 正文

?物理學(xué)獎(jiǎng)得主欣頓:AI安全是重中之重

2024-10-13 05:02:08大公報(bào)
字號(hào)
放大
標(biāo)準(zhǔn)
分享

  圖:諾貝爾物理學(xué)獎(jiǎng)得主、“AI教父”欣頓。\路透社

  【大公報(bào)訊】綜合《華爾街日?qǐng)?bào)》、《金融時(shí)報(bào)》報(bào)道:《金融時(shí)報(bào)》評(píng)論稱,人工智能(AI)獲得諾貝爾物理學(xué)獎(jiǎng)和化學(xué)獎(jiǎng)青睞,恰好也體現(xiàn)了人工智能的前景和潛在隱患。摘得物理學(xué)獎(jiǎng)的“AI教父”欣頓多次公開發(fā)出AI安全警告,提醒人們未來要更認(rèn)真地對(duì)待AI安全問題,否則AI將對(duì)人類構(gòu)成威脅。

  今年76歲的欣頓去年離開了谷歌,他說自己不打算再做研究。相反,他打算倡導(dǎo)開展人工系統(tǒng)安全方面的工作。從去年開始,欣頓在不同場(chǎng)合多次公開表達(dá)對(duì)AI潛在風(fēng)險(xiǎn)的擔(dān)憂。他在去年接受《紐約時(shí)報(bào)》采訪時(shí)表示:“看看五年前的情況,再看看現(xiàn)在。對(duì)比一下前后差異,并請(qǐng)對(duì)外宣傳。這太可怕了?!?/p>

  欣頓曾與其他AI研究人員一起呼吁OpenAI、Meta和谷歌等公司在AI安全性上投入更多資源,但AI界一些人認(rèn)為他夸大了AI的風(fēng)險(xiǎn),反而會(huì)減緩AI技術(shù)進(jìn)步。欣頓10月8日接受諾貝爾獎(jiǎng)采訪時(shí)重申,“我認(rèn)為我們正處在歷史的分岔點(diǎn)上,在未來幾年里,我們需要弄清楚是否有辦法應(yīng)對(duì)這一(AI)威脅。”

  10月9日,欣頓呼吁對(duì)人工智能安全進(jìn)行更多的研究,“當(dāng)我們得到比我們更聰明的東西時(shí),沒有人真正知道我們是否能夠控制它們?!毙李D認(rèn)為,OpenAI創(chuàng)辦人兼CEO阿爾特曼對(duì)利潤(rùn)的關(guān)注超過了對(duì)安全的關(guān)注,這很不幸。他還說,自己學(xué)生蘇茨克沃(Ilya Sutskever)去年在OpenAI管理層的“宮斗”大戲中把阿爾特曼炒掉,做得好。蘇茨克沃曾擔(dān)任OpenAI首席科學(xué)家,今年5月宣布離職,稱未來專注于打造安全的“超級(jí)AI”。

點(diǎn)擊排行