證券時報網(wǎng)
司迪
2025-12-17 20:20
證券時報記者 陳霞昌
近日，包頭、安慶等地先后發(fā)生不法分子利用人工智能（AI）進(jìn)行詐騙，涉及金額數(shù)百萬元。資本市場同樣出現(xiàn)AI負(fù)面影響的事件，某上市公司因?yàn)樯墒紸I寫作虛假小作文導(dǎo)致股價大幅下跌。
在歐美，利用人工智能進(jìn)行犯罪也有增多趨勢。歐洲刑警組織在一份最新報告中警告，犯罪分子可能會利用人工智能精進(jìn)犯罪手段。從發(fā)動網(wǎng)絡(luò)釣魚攻擊、散布不實(shí)信息到安裝惡意軟件等，聊天機(jī)器人快速發(fā)展出的能力，被不法之徒頻頻利用來吸金詐財。
人工智能被譽(yù)為第四次工業(yè)革命的核心，長期以來都受到政府和行業(yè)的高度關(guān)注。今年以ChatGPT為代表的生成式人工智能更是在全球刮起旋風(fēng)，資本市場對相關(guān)企業(yè)也給予了高度關(guān)注。但人們探討的，更多是人工智能對各行各業(yè)帶來的正面變革，甚少看到它高速發(fā)展可能帶來的負(fù)面影響。業(yè)內(nèi)僅有少數(shù)有識之士提出，希望人工智能在迅猛發(fā)展的同時，也要受到足夠的約束和監(jiān)管。
今年3月，在ChatGPT火出圈后，包括特斯拉總裁馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克在內(nèi)的一批高科技人士發(fā)表聯(lián)名信，呼吁所有AI實(shí)驗(yàn)室立即暫停更強(qiáng)大的AI系統(tǒng)訓(xùn)練至少6個月，以保證人類能夠跟上人工智能進(jìn)化速度，同時要求訓(xùn)練過程必須公開化、透明化，堅(jiān)決防止人工智能出現(xiàn)自我意識。
“人工智能教父”杰弗里·辛頓今年年初就曾經(jīng)警告，人工智能對人類構(gòu)成的威脅將比氣候變化更加緊迫。辛頓認(rèn)為，人工智能是一種智能工具，可以輔助人類做一些繁瑣、重復(fù)和創(chuàng)意性工作，但也會有不法之徒用它來做違法亂紀(jì)的勾當(dāng)。人工智能不但能撰寫文章，還能生成圖像、視頻。如果用來弄虛作假，幾乎可以亂真，普通人很難識別出來。如果有人用它來制作虛假圖像、視頻，傳遞錯誤信息，其破壞力遠(yuǎn)大于單純的文字形式。
當(dāng)前在國內(nèi)外發(fā)生的種種違法犯罪，正在應(yīng)驗(yàn)辛頓的警告?？梢灶A(yù)見，未來利用人工智能進(jìn)行違法犯罪的事情會越來越多。金融市場和金融機(jī)構(gòu)因?yàn)樯婕百Y產(chǎn)價格和國家安全，人工智能犯罪的概率會更大。
今年4月，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，旨在促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用。但作為一個行業(yè)管理辦法，顯然不足以對洶涌而來的人工智能發(fā)展進(jìn)行約束和管理。期待監(jiān)管機(jī)構(gòu)能夠在更高層面對這一行業(yè)發(fā)展進(jìn)行更多關(guān)注和規(guī)范。
