AI風(fēng)險(xiǎn)如核試驗(yàn)，麻省理工教授呼吁：量化失控，立即行動(dòng)
隨著人工智能（AI）技術(shù)的飛速發(fā)展，我們正面臨著一個(gè)前所未有的挑戰(zhàn)和機(jī)遇。近日，麻省理工學(xué)院的物理學(xué)教授及AI研究者泰格馬克發(fā)出警告，高度發(fā)達(dá)的AI有九成可能帶來(lái)生存威脅。他呼吁，我們需要借鑒康普頓常數(shù)的概念，認(rèn)真計(jì)算“人工超級(jí)智能”失控的幾率，而非僅憑感覺(jué)行事。
AI的風(fēng)險(xiǎn)，就如同當(dāng)年的核武器一樣，有可能引發(fā)無(wú)法預(yù)知的后果。在1945年，“三位一體”核試驗(yàn)的推進(jìn)，正是因?yàn)槊绹?guó)在獲知原子彈引發(fā)大氣層燃燒的可能性幾乎為零后，才有了這一歷史性的決定。然而，泰格馬克與三名麻省理工學(xué)生合作發(fā)表的論文指出，如果我們不能準(zhǔn)確計(jì)算出AI失控的概率，那么這種看似微小的可能性，也有可能演變成毀滅性的災(zāi)難。
康普頓常數(shù)的概念，是強(qiáng)AI失控的概率。在1959年的采訪中，康普頓提到，他是在確認(rèn)失控核聚變的幾率“不足三百萬(wàn)分之一”后才批準(zhǔn)了核試驗(yàn)。這個(gè)數(shù)字，對(duì)于我們?cè)u(píng)估AI的風(fēng)險(xiǎn)同樣具有指導(dǎo)意義。泰格馬克強(qiáng)調(diào)，打造超級(jí)智能的公司必須計(jì)算這個(gè)幾率，而不能僅憑“我們有信心”來(lái)應(yīng)對(duì)。我們必須拿出具體數(shù)據(jù)，來(lái)量化風(fēng)險(xiǎn)，以便做出明智的決策。
如果多家公司聯(lián)合計(jì)算康普頓常數(shù)并形成共識(shí)，那么這將有助于推動(dòng)全球范圍內(nèi)AI安全機(jī)制的建立。這種共識(shí)的形成，將使各公司站在同一陣線，共同面對(duì)AI的風(fēng)險(xiǎn)，而非相互競(jìng)爭(zhēng)。這樣的合作將使我們?cè)贏I的風(fēng)險(xiǎn)評(píng)估和安全管理上取得實(shí)質(zhì)性的進(jìn)步。
泰格馬克是麻省理工學(xué)院的物理學(xué)教授及AI研究者，他的觀點(diǎn)和行動(dòng)，代表了學(xué)術(shù)界對(duì)AI風(fēng)險(xiǎn)的深度關(guān)注和嚴(yán)肅態(tài)度。他參與創(chuàng)辦的非營(yíng)利組織“未來(lái)生命研究所”，在2023年發(fā)布公開信，呼吁暫停開發(fā)更強(qiáng)大的AI系統(tǒng)。這封信獲得了超過(guò)3.3萬(wàn)人的簽名，其中包括早期支持者埃隆·馬斯克和蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克。他們的行動(dòng)，無(wú)疑為AI的風(fēng)險(xiǎn)管理敲響了警鐘。
這封信警告稱，各大實(shí)驗(yàn)室正陷入“失控競(jìng)賽”，開發(fā)越來(lái)越強(qiáng)大的AI系統(tǒng)，而這些系統(tǒng)“人類無(wú)法理解、預(yù)測(cè)或可靠控制”。這正是我們需要關(guān)注和應(yīng)對(duì)的問(wèn)題。我們不能僅僅因?yàn)榧夹g(shù)進(jìn)步而忽視了潛在的風(fēng)險(xiǎn)。在追求科技發(fā)展的同時(shí)，我們必須時(shí)刻保持警惕，做好風(fēng)險(xiǎn)管理，以確保我們的行動(dòng)是在一個(gè)安全、可控的環(huán)境中進(jìn)行的。
面對(duì)AI的風(fēng)險(xiǎn)，我們需要采取行動(dòng)。這種行動(dòng)不僅來(lái)自于學(xué)術(shù)界和業(yè)界的呼吁和警告，更來(lái)自于我們每一個(gè)人的責(zé)任和義務(wù)。我們需要從自身做起，了解AI的風(fēng)險(xiǎn)，參與AI的安全管理，為我們的未來(lái)做出明智的選擇。
總的來(lái)說(shuō)，AI的風(fēng)險(xiǎn)如同核試驗(yàn)一樣，需要我們以嚴(yán)謹(jǐn)?shù)膽B(tài)度、科學(xué)的視角、負(fù)責(zé)任的行為來(lái)應(yīng)對(duì)。我們需要量化風(fēng)險(xiǎn)，明確責(zé)任，以便在面對(duì)未知的未來(lái)時(shí)，能夠做出明智的決策，確保我們的行動(dòng)是在一個(gè)安全、可控的環(huán)境中進(jìn)行的。讓我們立即行動(dòng)起來(lái)，共同應(yīng)對(duì)AI的風(fēng)險(xiǎn)，為我們的未來(lái)創(chuàng)造一個(gè)更美好的世界。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
