當(dāng)?shù)貢r(shí)間5月4日，美國(guó)白宮宣布了旨在遏制人工智能風(fēng)險(xiǎn)的首個(gè)新舉措。報(bào)告顯示美國(guó)國(guó)家科學(xué)基金會(huì)計(jì)劃撥款1.4億美元建立專門(mén)用于人工智能的新研究中心。政府還承諾發(fā)布政府機(jī)構(gòu)的指導(dǎo)方針草案以確保對(duì)人工智能的使用保障“美國(guó)人民的權(quán)利和安全”。谷歌、微軟、OpenAI等人工智能公司已同意在8月的網(wǎng)絡(luò)安全會(huì)議上對(duì)其產(chǎn)品進(jìn)行審查。

國(guó)內(nèi)來(lái)看，4月11日國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法》公開(kāi)征求意見(jiàn)。

(資料圖片僅供參考)

海外的角度，近期著眼于人工智能監(jiān)管的國(guó)家正在增加，如4月11日美國(guó)商務(wù)部下轄咨詢機(jī)構(gòu)國(guó)家電信與信息管理局開(kāi)始就AI相關(guān)監(jiān)管問(wèn)題向社會(huì)各界征集意見(jiàn)，國(guó)土安全部部長(zhǎng)表示該部門(mén)將成立一個(gè)人工智能特別工作組；歐洲議員同樣呼吁制定更多的規(guī)則來(lái)對(duì)人工智能技術(shù)加以監(jiān)管，并列出了幾項(xiàng)期待的舉措，包括在擬議的《人工智能法案》草案中提供一個(gè)框架，此外還提及應(yīng)召開(kāi)關(guān)注人工智能風(fēng)險(xiǎn)的全球峰會(huì)等等。

安信證券認(rèn)為，認(rèn)為AI監(jiān)管主要體現(xiàn)在三個(gè)方面：

1)對(duì)數(shù)據(jù)集獲取的安全合規(guī)性：由于AI模型需要大量數(shù)據(jù)的訓(xùn)練，在使用過(guò)程中也需要上傳數(shù)據(jù)獲取模型輸出結(jié)果，因?yàn)獒槍?duì)企業(yè)內(nèi)部在使用AI大模型時(shí)候上傳數(shù)據(jù)的安全和保密性需求將會(huì)持續(xù)提升，利好數(shù)據(jù)安全和加密類企業(yè)的需求增長(zhǎng)，如啟明星辰、安恒信息、奇安信、深信服、安博通、信安世紀(jì)、三未信安、格爾軟件等。

2)對(duì)人工智能模型的可解釋性和透明性：目前的AI大模型均是基于深度學(xué)習(xí)搭建，其中的決策機(jī)制和過(guò)程尚不透明，模型的可解釋性較差，這對(duì)于AI的應(yīng)用構(gòu)成了比較大的挑戰(zhàn)。未來(lái)針對(duì)AI模型可解釋性的研究也將會(huì)持續(xù)發(fā)展，利好AI算法類企業(yè)的突破。

3)對(duì)人工智能生成內(nèi)容的識(shí)別和審核：由于AI模型本身是否具有歧視性和偏向性尚存在爭(zhēng)議，因此對(duì)于人工智能生成內(nèi)容的識(shí)別和審核需求將會(huì)提升，包括反生成式AI系統(tǒng)在內(nèi)的產(chǎn)業(yè)將會(huì)受益，相關(guān)公司如美亞柏科等。

根據(jù)公開(kāi)資料梳理，相關(guān)公司包括但不限于：

數(shù)據(jù)安全：電科網(wǎng)安、深信服、啟明星辰等；

數(shù)據(jù)要素：易華錄、浙數(shù)文化等；

信息安全：安恒信息，浩瀚深度，中新賽克，美亞柏科；

隱私計(jì)算：綠盟科技、星環(huán)科技。

關(guān)鍵詞：