假的！假的！假的！達(dá)州人千萬(wàn)別信！
發(fā)布時(shí)間： 點(diǎn)擊數(shù)：
最近，有網(wǎng)友發(fā)消息稱
“張文宏是不是帶貨了？”
視頻中
張文宏在賣一種蛋白棒
家里的老人信以為真已經(jīng)下單
還轉(zhuǎn)發(fā)了很多群
據(jù)媒體報(bào)道
這個(gè)賬號(hào)名為“般畫234”
在視頻中
“張文宏”反復(fù)介紹一種產(chǎn)品
口型是他的，聲音也是他的
但稍微懂點(diǎn)AI的小伙伴們
一眼就能分辨
這是AI合成的視頻！
目前
這段視頻已在該賬號(hào)內(nèi)不可見(jiàn)
但商品櫥窗內(nèi)
還保留著蛋白棒售賣的頁(yè)面
并顯示已售出1266件
近年來(lái)
AI剪輯冒充明星的案例屢見(jiàn)不鮮
也有不少人因此上當(dāng)
今年11月，江西一位老人來(lái)到銀行辦理銀行卡，但手續(xù)不全又不肯離開(kāi)，警方到現(xiàn)場(chǎng)后，老人表示要到銀行貸款200萬(wàn)元給自己的男朋友“靳東”拍戲。
民警隨即拿起老人的手機(jī)進(jìn)行查看，發(fā)現(xiàn)老人所謂的大明星“靳東”是騙子冒充的，其所發(fā)布的視頻也是由電腦AI合成，但老人對(duì)網(wǎng)絡(luò)知之甚少，對(duì)于騙子所說(shuō)所做深信不疑。
最終，民警通過(guò)向老人展示網(wǎng)絡(luò)上一些冒充“靳東”詐騙的新聞和現(xiàn)場(chǎng)利用AI合成照片等方式，老人才幡然醒悟，表示不會(huì)再相信網(wǎng)絡(luò)上的“靳東”，并放棄了開(kāi)卡貸款的念頭。
今年10月
老牌港星黃百鳴
在社交媒體上發(fā)布聲明表示
有人盜用他過(guò)去的影片
并利用人工智慧技術(shù)替換掉原有聲音
假借自家名義代言一個(gè)
不知名的藥膏品牌
這種行為純屬欺詐
旨在誤導(dǎo)公眾并從中取利
學(xué)會(huì)三招識(shí)別AI“換臉換聲”
我們可以要求對(duì)方在視頻對(duì)話的時(shí)候，在臉部面前，通過(guò)揮手的方式去識(shí)別實(shí)時(shí)偽造的視頻。在揮手的過(guò)程中會(huì)造成面部的數(shù)據(jù)干擾，他所偽造的人臉會(huì)產(chǎn)生一定的抖動(dòng)或者閃現(xiàn)，或是一些其他異常的情況。
在點(diǎn)對(duì)點(diǎn)的溝通過(guò)程中，可以問(wèn)一些只有對(duì)方知道的問(wèn)題，驗(yàn)證對(duì)方的真實(shí)性。
還可以讓對(duì)方通過(guò)按鼻子按臉的方式，觀察其面部變化，真人的鼻子按下去是會(huì)變形，但AI生成的鼻子并不會(huì)，同樣臉部也是一樣的。
值得注意的是，以上鑒別方式都是基于現(xiàn)有算法的局限性。未來(lái)隨著AI技術(shù)的發(fā)展，“動(dòng)起來(lái)”“揮手”“比數(shù)字”等有可能難不倒新技術(shù)，“數(shù)字人”同樣能順利完成以上動(dòng)作，從而更加具備迷惑性。所以，防范AI詐騙，還是要從自己出發(fā)，做好信息保護(hù)，提高警惕。
例如，不要泄露個(gè)人信息，尤其要注意圖像、聲音、指紋等生物信息的保護(hù)。“AI換臉”的數(shù)據(jù)基礎(chǔ)是被模仿人的照片、視頻等，個(gè)人公開(kāi)在外的照片、視頻越多，意味著AI算法參考的數(shù)據(jù)越多，生成的“數(shù)字人”會(huì)更真實(shí)。
同時(shí)，在涉及資金交易等場(chǎng)景下，需要多留心眼，不輕易相信視頻、聲音。很多時(shí)候，傳統(tǒng)的識(shí)別方式要比技術(shù)識(shí)別更有效。
上一篇：無(wú)
