技術(shù)往往是一把雙刃劍。人工智能在迅速發(fā)展的同時(shí)，也帶來(lái)了一些困惑和挑戰(zhàn)。雖然近段時(shí)間一直討論的人工智能倫理規(guī)范問題離我們有些遠(yuǎn)，但現(xiàn)實(shí)中人工智能帶來(lái)的其他困惑卻在上演。

　　在信息爆炸的今天，你能相信你看到的消息是真實(shí)的嗎？在過(guò)去多年中，由于算法聚合、缺乏監(jiān)管導(dǎo)致假新聞在各種社交媒體中泛濫，F(xiàn)acebook、Twitter以及國(guó)內(nèi)各種社交平臺(tái)都深受其害，同時(shí)也給社會(huì)帶來(lái)越來(lái)越多的負(fù)效應(yīng)。Facebook日前推出了全新的地方新聞服務(wù)，以打擊好友間傳播假新聞。

　　除了假新聞，你能相信你看到的照片以及視頻也有可能是假的嗎？

　　有媒體報(bào)道，目前英偉達(dá)的一組研究人員最近創(chuàng)建了一個(gè)系統(tǒng)，可以通過(guò)分析成千上萬(wàn)真正的名人照片，并創(chuàng)建看起來(lái)相似，實(shí)則完全“無(wú)中生有”的“假照片”。此外，該系統(tǒng)還能創(chuàng)建馬匹、公共汽車、自行車等常見物體的“假照片”。并且這些“假照片”，已經(jīng)成功騙過(guò)了絕大多數(shù)人的眼睛。

   該系統(tǒng)的目標(biāo)是可以自動(dòng)創(chuàng)建、生成令人信以為真的圖像，或是以同樣的方式改變已有的圖像。在研究之初，英偉達(dá)打算將這種技術(shù)應(yīng)用在游戲、電影和其他內(nèi)容領(lǐng)域的創(chuàng)作上。英偉達(dá)研究人員利用稱之為漸進(jìn)式GAN的方法，建立了一個(gè)以低分辨率圖像開始，然后逐漸進(jìn)化到更高分辨率的系統(tǒng)。最終經(jīng)過(guò)18天的時(shí)間，制造一張逼真的1024×1024像素，圖像清晰、細(xì)節(jié)豐富“假照片”。

　　當(dāng)然不僅僅是英偉達(dá)，其他一些科技巨頭也在涉足這一領(lǐng)域。隨著大數(shù)據(jù)分析，深度學(xué)習(xí)算法技術(shù)的不斷成熟，GOOGLE和Facebook等企業(yè)都建立了相似的系統(tǒng)——以人眼識(shí)別的準(zhǔn)確度來(lái)判斷憑空制造人臉、普通物體的成熟度。

　　此外，英偉達(dá)的研究團(tuán)隊(duì)也于近日創(chuàng)建了一個(gè)系統(tǒng)——能夠自動(dòng)更改在夏季拍攝的街頭照片，使其看起來(lái)像下雪的冬季場(chǎng)景。而加州大學(xué)伯克利分校的研究人員設(shè)計(jì)出能讓普通馬變成斑馬、莫奈成梵高的系統(tǒng)，谷歌旗下的倫敦AI實(shí)驗(yàn)室DeepMind則是探索能夠自動(dòng)生成視頻的技術(shù)。

　　目前，泛濫各大社交媒體的假新聞，已經(jīng)給社會(huì)帶來(lái)極大的困擾，并且無(wú)法進(jìn)行根治。假圖片的出現(xiàn)將會(huì)進(jìn)一步放大這中困惑，同時(shí)也可能危機(jī)社會(huì)公共安全。然而更令人感到不安的是，假的視頻已經(jīng)出現(xiàn)。

　　據(jù)媒體報(bào)道，在去年8月份，華盛頓大學(xué)的一個(gè)研究小組創(chuàng)建了一個(gè)系統(tǒng)，生成了一段由奧巴馬發(fā)布的視頻“假新聞”。另外，去年科大訊飛2017年度發(fā)布會(huì)上，現(xiàn)場(chǎng)播放了“特朗普”對(duì)大會(huì)的祝福。而視頻聲音是通過(guò)科大訊飛的機(jī)器學(xué)習(xí)、合成技術(shù)，通過(guò)對(duì)特朗普大量語(yǔ)音的分析，從而實(shí)現(xiàn)任意字詞的語(yǔ)音合成，達(dá)到近乎以假亂真的效果。

　　在人工智能技術(shù)不斷成熟下，輕松地制造逼真的假圖像或者假視頻，或者冒充他人發(fā)布假視頻似乎一夜之間成為現(xiàn)實(shí)。在目前社會(huì)詐騙案件高發(fā)的時(shí)期，如果這種技術(shù)被不法分子獲取，其危害性將無(wú)法估量。

　　在目前公共安全管理中，圖像以及視頻信息已經(jīng)成為各種身份認(rèn)證、現(xiàn)場(chǎng)復(fù)核以及案件偵破的重要依據(jù)。然而基于人工智能下的假圖像或者假視頻的出現(xiàn)無(wú)疑會(huì)給公共安全管理帶來(lái)很大的隱患，視頻監(jiān)控圖像的真實(shí)性將受到質(zhì)疑！

　　如何面對(duì)人工智能可能產(chǎn)生的負(fù)面影響？科技部副部長(zhǎng)李萌曾經(jīng)表示，人工智能是影響面廣的顛覆性技術(shù)，其發(fā)展的不確定性將對(duì)就業(yè)、法律、倫理、隱私、國(guó)際關(guān)系等帶來(lái)新挑戰(zhàn)。國(guó)務(wù)院出臺(tái)的《新一代人工智能發(fā)展規(guī)劃》強(qiáng)調(diào)注重發(fā)展與規(guī)制平衡，把握人工智能技術(shù)屬性和社會(huì)屬性高度融合的特征，既要最大程度發(fā)揮人工智能潛力，又要加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，確保走上安全、可靠、可控的發(fā)展軌道。