4月28日，北京大學(xué)計算機學(xué)院教授、北京智源人工智能研究院理事長黃鐵軍在第十七屆中國電子信息年會上發(fā)表演講時表示，“幻覺”是人工智能創(chuàng)造性的體現(xiàn)，人類要想創(chuàng)造比自身更強的智能體，就不要降低AI幻覺率，否則人工智能將與巨大的資源檢索庫無異。

　　所謂AI幻覺，指的是生成式人工智能模型產(chǎn)生的并非真實存在、不準(zhǔn)確的信息。為降低AI幻覺產(chǎn)生概率、提升大模型準(zhǔn)確率，當(dāng)前產(chǎn)研界已推出存在多種不同的解決方案。

　　但在黃鐵軍看來，要認可大模型理解世界的能力，不能簡單地將AI幻覺“一棒子打死”，正是因為幻覺的產(chǎn)生才帶來了創(chuàng)新的可能性。與人類通過五感了解世界的方式不同，人工智能了解世界的方式是通過自然語言的語義關(guān)系，例如通過理解人類語言中詞與詞之間關(guān)系的遠近來理解人類語言。當(dāng)神經(jīng)網(wǎng)絡(luò)達到一定的規(guī)模，人工智能對不同概念的關(guān)系理解越來越豐富，便具備了生成內(nèi)容的能力。

　　而AI生成的內(nèi)容中不符合事實的情況，黃鐵軍認為不應(yīng)該將其視為“幻覺”，他認為這是生成式人工智能的想象力。如果通過控制的方式使人工智能不具備想象的能力，那么所謂生成式人工智能就與人類巨大的資源檢索庫無異，也就不具備創(chuàng)造性了。

　　之所以要保留人工智能的創(chuàng)造性，是因為人類需要比自己更具創(chuàng)造力的智能體。他認為，人類的能力是有上限的，人類的智力存在天花板，但人類要想在廣闊的宇宙自然界生存，還有大量難以僅僅通過自身能力解釋和理解的問題，也需要人類所不能企及的想象力。

　　根據(jù)人工智能的智能能力，黃鐵軍將人工智能分成四種類型：專用人工智能、通用人工智能、自主人工智能和超人智能。其中專用人工智能被稱為“弱人工智能”，指完成特定智能任務(wù)或解決特定問題的人工智能，迄今出現(xiàn)的人工智能都是弱人工智能；通用人工智能是指人工智能所有方面都達到人類水平，能夠自適應(yīng)地應(yīng)對外界環(huán)境挑戰(zhàn)、自主完成所有任務(wù)的人工智能，即人類水平的人工智能；自主人工智能是指能夠自適應(yīng)地應(yīng)對外界環(huán)境挑戰(zhàn)的人工智能，也被稱為動物水平的自主人工智能；超人智能是指人工智能的各個方面都超越人類。

　　黃鐵軍說，《北京AI安全國際共識》在今年3月簽署，規(guī)定了人工智能的發(fā)展需要劃一條不可僭越的紅線，包含五個方面：第一是任何人工智能系統(tǒng)都不應(yīng)在人類沒有明確批準(zhǔn)和協(xié)助的情況下復(fù)制或改進自身；第二是任何人工智能系統(tǒng)都不能采取不當(dāng)?shù)卦黾幼陨頇?quán)力和影響力的行動；第三是所有人工智能系統(tǒng)都不應(yīng)提升其使用者的能力使其能夠設(shè)計大規(guī)模殺傷性武器，不得違反生物或化學(xué)武器公約；第四是任何人工智能系統(tǒng)都不能自主執(zhí)行造成嚴(yán)重財產(chǎn)損失或同等傷害的網(wǎng)絡(luò)攻擊；第五是任何人工智能系統(tǒng)都不能有持續(xù)引導(dǎo)其設(shè)計者或監(jiān)管者誤解其僭越任何前述紅線的可能性或能力。

　　而在人工智能不能僭越的紅線之外，黃鐵軍認為應(yīng)該盡可能提升其智能能力。