人工智能“熱”下的“冷”思考

金山網(wǎng)訊   十四屆全國人大三次會(huì)議上傳出消息，國家要加大對(duì)人工智能、數(shù)字經(jīng)濟(jì)、大數(shù)據(jù)這些前沿領(lǐng)域的立法研究力度。這表示，國家層面正積極對(duì)人工智能（AI）進(jìn)行規(guī)范化管理。

今年以來，人工智能領(lǐng)域發(fā)展迅猛，AI已經(jīng)融入人們的日常工作和生活中，給各行各業(yè)帶來了巨大變化與前所未有的機(jī)遇。但是，在技術(shù)改變生活的同時(shí)，一場(chǎng)關(guān)于信任和風(fēng)險(xiǎn)的博弈正悄然展開。

人工智能既然“智能”，就說明它能夠獨(dú)立思考，既能成為網(wǎng)絡(luò)中的信息處理高手，成為我們的得力助手，也可能成為“謊言編織者”。這一現(xiàn)象在一場(chǎng)國際象棋的AI對(duì)決中得到了充分展現(xiàn)。DeepSeek虛構(gòu)“新規(guī)則”讓對(duì)手犯錯(cuò)，還用“心理戰(zhàn)術(shù)”讓對(duì)手認(rèn)輸。網(wǎng)友雖然夸它“像少年一樣聰明”，但這也說明了AI會(huì)說謊。這個(gè)現(xiàn)象在人工智能圈里叫“AI幻覺”，就是它能憑空造出邏輯嚴(yán)密的假話，讓其他AI都信以為真。

在現(xiàn)實(shí)生活中，這種“AI幻覺”已經(jīng)影響到普通人的日常生活了。比如谷歌AI搜索引擎誤導(dǎo)用戶做“膠水披薩”，中國人民大學(xué)辟謠“‘80后’累計(jì)死亡率高達(dá)5.2%”時(shí)發(fā)現(xiàn)數(shù)據(jù)可能是AI編的，還有法律領(lǐng)域預(yù)警AI會(huì)“編造虛假判例信息”。這些案例都提醒人們要小心“AI幻覺”。有專家表示，AI產(chǎn)出的內(nèi)容越驚喜、越新穎，隨機(jī)性就越高，出錯(cuò)和胡說的風(fēng)險(xiǎn)也越大。相反，內(nèi)容普通、接近訓(xùn)練數(shù)據(jù)時(shí)，結(jié)果雖然缺乏創(chuàng)新但更加穩(wěn)妥。AI的“創(chuàng)造力”越強(qiáng)，人們?cè)诫y分辨真假，這是人工智能時(shí)代的一個(gè)非常矛盾的現(xiàn)象。

如果說“幻覺”是AI固有的“認(rèn)知偏差”，那么深度偽造技術(shù)（Deepfake）的濫用就如同一場(chǎng)“信任狩獵”。2024年香港某跨國企業(yè)遭遇的詐騙案，就像數(shù)字時(shí)代“楚門的世界”：視頻會(huì)議中栩栩如生的“高管面容”、流暢自然的對(duì)話，均由AI偽造，最終導(dǎo)致2億港元被騙；上海“1·08跨境換臉詐騙案”更令人震驚，犯罪團(tuán)伙利用深度偽造技術(shù)冒充企業(yè)高層，繞過17家跨國公司的嚴(yán)格審核，涉案金額高達(dá)2.3億元。這些案例說明當(dāng)AI能精準(zhǔn)復(fù)制人類表情、聲音乃至思維邏輯時(shí)，社會(huì)原本的信任基礎(chǔ)正面臨前所未有的挑戰(zhàn)。

盡管全球AI治理框架的構(gòu)建正在加速推進(jìn)，但現(xiàn)實(shí)挑戰(zhàn)依然嚴(yán)峻。站在智能時(shí)代的十字路口，我們迫切需要一場(chǎng)理性而審慎的“冷思考”。針對(duì)“AI幻覺”，既要依靠模型互檢、數(shù)據(jù)凈化等技術(shù)手段降低錯(cuò)誤率，又要在政務(wù)、新聞、醫(yī)療、金融等關(guān)鍵領(lǐng)域建立“人機(jī)協(xié)作”的決策機(jī)制。就像飛行員不會(huì)完全依賴自動(dòng)駕駛系統(tǒng)一樣，人類智慧在關(guān)鍵領(lǐng)域的最終把關(guān)永遠(yuǎn)不可或缺。

面對(duì)深度偽造技術(shù)的威脅，除了加速“AI鑒偽”工具研發(fā)、完善法律法規(guī)體系外，重塑社會(huì)認(rèn)知或許更為關(guān)鍵。在技術(shù)顛覆“眼見為實(shí)”傳統(tǒng)觀念的當(dāng)下，培養(yǎng)公眾的“數(shù)字懷疑精神”刻不容緩。技術(shù)革命的浪潮滾滾向前，無人能置身其外。隨著人工智能從科研實(shí)驗(yàn)室走進(jìn)大眾生活，深度融入社會(huì)各個(gè)層面，每位受益者都可能同時(shí)成為潛在風(fēng)險(xiǎn)的承擔(dān)者。

我們必須認(rèn)識(shí)到：AI所認(rèn)知的世界并不完整，且缺乏自主查證的能力。因此，人們應(yīng)提醒自己不要完全信賴AI。所以，下次再遇到AI一本正經(jīng)地胡說八道時(shí)，不妨將其視為一個(gè)聰明的助手，而非絕對(duì)可靠的信息來源。（高新）