警惕“大模型幻覺”，中國AI要大膽前行

警惕“大模型幻覺”，中國AI大膽前行

隨著人工智能（AI）技術(shù)的飛速發(fā)展，大模型已成為推動中國科技進(jìn)步、經(jīng)濟(jì)增長和國家強(qiáng)盛的關(guān)鍵力量。然而，大模型也帶來了一系列新的安全和監(jiān)管挑戰(zhàn)。全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎在兩會期間，聚焦關(guān)注大模型安全和幻覺、網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型問題，提出了一系列具有前瞻性的建議。

首先，周鴻祎強(qiáng)調(diào)了大模型“幻覺”的適度包容問題。他指出，大模型作為一種前沿技術(shù)，其“幻覺”現(xiàn)象是其重要特點(diǎn)之一，也是實(shí)現(xiàn)通用人工智能（AGI）的重要因素。在科研領(lǐng)域，大模型的“幻覺”能夠“想象”新藥分子結(jié)構(gòu)、蛋白質(zhì)的結(jié)構(gòu)等，為新研究指引方向。然而，在醫(yī)療、法律、金融等對準(zhǔn)確性要求高的領(lǐng)域，雖然大模型的“幻覺”可能出錯(cuò)，但可以利用技術(shù)手段進(jìn)行矯正。因此，對于大模型的“幻覺”，我們應(yīng)當(dāng)持有適度包容的態(tài)度，避免過度追求準(zhǔn)確而限制其創(chuàng)造力。

其次，周鴻祎提出了以模制模的解決大模型應(yīng)用安全問題的方法。他指出，隨著大模型的廣泛應(yīng)用，安全問題也隨之而來。大模型存在幻覺、內(nèi)容安全等諸多問題無法通過傳統(tǒng)安全方案有效化解，一旦部署在政府、企業(yè)內(nèi)部的基座模型、知識庫或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患，都極有可能誘發(fā)整個(gè)生產(chǎn)環(huán)境爆發(fā)系統(tǒng)性風(fēng)險(xiǎn)。對此，360運(yùn)用人工智能技術(shù)重塑安全格局，采用“以模制模”的方式應(yīng)對新難題，依托安全大模型技術(shù)搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系，護(hù)航政府與企業(yè)“數(shù)轉(zhuǎn)智改”。這一方法無疑為解決大模型應(yīng)用安全問題提供了新的思路。

再者，周鴻祎關(guān)注到了網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型的問題。他指出，當(dāng)前網(wǎng)絡(luò)安全行業(yè)內(nèi)卷嚴(yán)重，傳統(tǒng)模式問題重重，不僅難以實(shí)現(xiàn)安全能力的廣泛覆蓋，也無法幫助企業(yè)等客戶迅速構(gòu)建安全能力。為此，他建議推動網(wǎng)絡(luò)安全服務(wù)化轉(zhuǎn)型，鼓勵從購買硬件產(chǎn)品轉(zhuǎn)變?yōu)橘徺I安全服務(wù)，并鼓勵購買SaaS化的安全產(chǎn)品。這些建議將有助于網(wǎng)絡(luò)安全行業(yè)適應(yīng)新的市場環(huán)境，提升網(wǎng)絡(luò)安全防護(hù)水平，為國家數(shù)字化建設(shè)筑牢安全基礎(chǔ)。

綜上所述，周鴻祎的提案為我們提供了一個(gè)全面而中立的視角來看待大模型的安全和監(jiān)管問題。在數(shù)字化、智能化的浪潮中，我們不能僅僅關(guān)注技術(shù)的準(zhǔn)確性，更要重視其創(chuàng)造力和想象力。對于大模型的“幻覺”，我們應(yīng)當(dāng)持有適度包容的態(tài)度，同時(shí)也要構(gòu)建完善的監(jiān)管體系，確保其在安全的前提下發(fā)揮最大潛力。對于網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型問題，我們應(yīng)當(dāng)積極推動服務(wù)化轉(zhuǎn)型，提升網(wǎng)絡(luò)安全防護(hù)水平，為國家數(shù)字化建設(shè)提供堅(jiān)實(shí)的保障。

面對未來，中國AI要大膽前行。讓我們警惕“大模型幻覺”，把握住時(shí)代發(fā)展的機(jī)遇，共同為國家的科技進(jìn)步、經(jīng)濟(jì)增長和國家強(qiáng)盛貢獻(xiàn)力量。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。