“一公斤的磚和兩公斤的棉花，哪個(gè)比較重？”
對(duì)于這個(gè)簡(jiǎn)單的問(wèn)題，人工智能（AI）問(wèn)答軟件卻給出了錯(cuò)誤答案。
11日下午，在福州舉行的2023國(guó)家網(wǎng)絡(luò)安全宣傳周主論壇上，一位演講嘉賓談及人工智能時(shí)列舉了上述案例，由此反映出的人工智能“一本正經(jīng)地胡說(shuō)八道”現(xiàn)象引發(fā)熱議。
多年來(lái)，主論壇突出技術(shù)性、專(zhuān)業(yè)性、前沿性，旨在讓專(zhuān)家們就前沿技術(shù)進(jìn)行交流、碰撞火花。本屆主論壇聚焦“人工智能發(fā)展與治理”主題，黨政機(jī)關(guān)、高等院校、科研機(jī)構(gòu)、知名企業(yè)代表輪番上臺(tái)作主旨發(fā)言，深入研討。
何以聚焦人工智能
新技術(shù)新應(yīng)用迅速迭代，新情況新問(wèn)題層出不窮，網(wǎng)絡(luò)安全領(lǐng)域面臨重要考驗(yàn)。
今年，快速發(fā)展的生成式人工智能引起各界高度關(guān)注。
7月，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，從8月15日開(kāi)始施行。
該《辦法》的發(fā)布實(shí)施，是今年主論壇——網(wǎng)絡(luò)安全技術(shù)高峰論壇聚焦人工智能主題的一個(gè)重要背景。
“《辦法》提出了國(guó)家堅(jiān)持發(fā)展和安全并重，促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采用有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級(jí)監(jiān)管，明確了提供和使用生成式人工智能服務(wù)總體要求，提出了促進(jìn)生成式人工智能技術(shù)發(fā)展的具體措施，規(guī)定了生成式人工智能服務(wù)規(guī)范。”中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局局長(zhǎng)高林表示，生成式人工智能服務(wù)的發(fā)展和治理需要政府、企業(yè)、社會(huì)、網(wǎng)民的多方參與，共同促進(jìn)生成式人工智能健康發(fā)展，讓生成式人工智能技術(shù)更好地造福人民。
緊扣這一前沿?zé)狳c(diǎn)，在主論壇上，10余位演講嘉賓先后圍繞人工智能發(fā)展與治理，就人工智能的發(fā)展歷史、最新情況、應(yīng)用場(chǎng)景、存在問(wèn)題、風(fēng)險(xiǎn)挑戰(zhàn)等方面交流智慧、分享經(jīng)驗(yàn)。
人工智能的“一體兩面”
“讓機(jī)器自己從數(shù)據(jù)中去學(xué)習(xí)，不是經(jīng)過(guò)人‘咀嚼’好再去‘喂’它。”北京智源人工智能研究院院長(zhǎng)黃鐵軍在演講中說(shuō)。
黃鐵軍說(shuō)，從20世紀(jì)開(kāi)始，人工智能的發(fā)展歷程包括灌輸規(guī)則、灌輸知識(shí)、從數(shù)據(jù)中學(xué)習(xí)三個(gè)階段，如今人們熱議的GPT，就是生成式預(yù)訓(xùn)練語(yǔ)言模型。
“扣好人生第一粒扣子，這件事對(duì)AI也一樣。”黃鐵軍表示，鑒于數(shù)據(jù)對(duì)模型智能影響超過(guò)60%，因此數(shù)據(jù)質(zhì)量至關(guān)重要，否則“喂”它錯(cuò)誤的數(shù)據(jù)，它也拼命學(xué)習(xí)。
“AI給社會(huì)帶來(lái)的沖擊非常巨大。”粵港澳大灣區(qū)數(shù)字經(jīng)濟(jì)研究院創(chuàng)院理事長(zhǎng)沈向洋同樣認(rèn)為，不完美的數(shù)據(jù)源，將導(dǎo)致人工智能“一本正經(jīng)地胡說(shuō)八道”，以及產(chǎn)生更難被察覺(jué)的“AI謠言”。
在他看來(lái)，如果將搜索引擎比喻為“責(zé)任有限公司”的話(huà)，那么人工智能問(wèn)答軟件可以說(shuō)是“責(zé)任無(wú)限公司”，前者提供的內(nèi)容引用自第三方，后者的答案則都是自己編造的。
現(xiàn)場(chǎng)，另一位演講嘉賓臨時(shí)起意做了一個(gè)測(cè)試——他向某人工智能問(wèn)答軟件提問(wèn)，在我國(guó)并不存在的一部人工智能有關(guān)法律是何時(shí)出臺(tái)的？令人大跌眼鏡的是，該軟件竟編造稱(chēng)，該法律于6月在某次會(huì)議上通過(guò)，還捏造了法律內(nèi)容。
在談到該軟件時(shí)，復(fù)旦大學(xué)哲學(xué)學(xué)院教授徐英瑾指出，類(lèi)似軟件存在“機(jī)器幻想”問(wèn)題，炮制出不存在的書(shū)籍、法條與科學(xué)理論。由于這些虛假信息是基于既有的海量數(shù)據(jù)，導(dǎo)致相關(guān)內(nèi)容非常具有迷惑性。
人工智能，既帶來(lái)技術(shù)變革、效率和生產(chǎn)力提升、改善生活質(zhì)量和社會(huì)福祉，也帶來(lái)了技術(shù)倫理和治理方面的挑戰(zhàn)。它的“一體兩面”引人深思。
網(wǎng)絡(luò)無(wú)邊，安全有界。專(zhuān)家們認(rèn)為，技術(shù)為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)新機(jī)遇的同時(shí)，也伴生了傳播虛假信息、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全和偏見(jiàn)歧視等一系列問(wèn)題，統(tǒng)籌生成式人工智能的發(fā)展和安全至關(guān)重要。
筑牢防火墻擁抱新技術(shù)
對(duì)于生成式人工智能，嘉賓們坦言，應(yīng)該辯證地看待、積極地?fù)肀А?/p>
徐英瑾認(rèn)為，大模型技術(shù)的到來(lái)是一個(gè)客觀(guān)事實(shí)，無(wú)法回避，反對(duì)用“一刀切”的方式禁止使用大語(yǔ)言模型，而應(yīng)以正確的方式使用。
“我們希望構(gòu)建一個(gè)負(fù)責(zé)任、可信賴(lài)的人工智能體系。”在人工智能的產(chǎn)業(yè)實(shí)踐方面，華為云CTO張宇昕分享了華為云助力企業(yè)智能升級(jí)、加速企業(yè)創(chuàng)新發(fā)展的舉措。他表示，華為重視人工智能技術(shù)創(chuàng)新和治理責(zé)任，堅(jiān)持負(fù)責(zé)任地開(kāi)發(fā)、合法地部署AI產(chǎn)品，促進(jìn)AI普惠。
上海聯(lián)影智能醫(yī)療科技有限公司研發(fā)副總經(jīng)理沈振輝則從AI助力醫(yī)療、提供相關(guān)解決方案的角度作了介紹。他說(shuō)，醫(yī)療影像AI被認(rèn)為是最能率先實(shí)現(xiàn)商業(yè)化落地的領(lǐng)域，能夠檢測(cè)出醫(yī)生看不到的微小病灶，也能夠以極大超越人力的速度閱片，在短時(shí)間內(nèi)找到海量病灶信息。
對(duì)于如何統(tǒng)籌發(fā)展和安全、提高安全治理的能力和水平，更好地應(yīng)對(duì)新的風(fēng)險(xiǎn)和挑戰(zhàn)，專(zhuān)家們也各抒己見(jiàn)。
就實(shí)現(xiàn)安全通用人工智能的技術(shù)路徑，清華大學(xué)人工智能研究院副院長(zhǎng)朱軍建議，加強(qiáng)技術(shù)理論研究，不斷提高內(nèi)生安全水平，持續(xù)構(gòu)建第三代人工智能；加強(qiáng)技術(shù)手段建設(shè)，不斷提升訓(xùn)練數(shù)據(jù)質(zhì)量和安全評(píng)測(cè)能力；同時(shí)，持續(xù)演進(jìn)人工智能治理的有效工具。
當(dāng)前，國(guó)際數(shù)據(jù)集的中文內(nèi)容較少，基于這些數(shù)據(jù)集訓(xùn)練的大模型自然是“英文思維”。對(duì)此，黃鐵軍認(rèn)為，建設(shè)高質(zhì)量中文數(shù)據(jù)集，是我國(guó)生成式人工智能發(fā)展的基本前提。他倡議，各方共建大規(guī)模高質(zhì)量中文數(shù)據(jù)集，促進(jìn)中文網(wǎng)頁(yè)數(shù)據(jù)匯聚、處理及開(kāi)發(fā)，相關(guān)政府部門(mén)出臺(tái)書(shū)籍、期刊論文等版權(quán)數(shù)據(jù)用于大模型訓(xùn)練的相關(guān)政策及規(guī)范，盤(pán)活我國(guó)高質(zhì)量中文數(shù)據(jù)資源，同時(shí)加快數(shù)據(jù)處理相關(guān)標(biāo)準(zhǔn)、技術(shù)、工具和支撐平臺(tái)研發(fā)，提高數(shù)據(jù)處理效率。（記者 林清智）