相信很多大家對用AI打假AI，這些倒反天罡的AI應(yīng)用正在悄悄走紅還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

“不要相信你現(xiàn)在看到的任何東西。”這是X上的一位AI圈博主在看完最近爆火的AI偽造版TED演講發(fā)出的感慨。

誰還記得，一年前AI生成的視頻是這樣的:

生成式AI將互聯(lián)網(wǎng)帶入到了一個真假難辨的深偽時代。

“有圖有真相”在過去是網(wǎng)友求證文字信息真實性時常引用的一句話，如今即便是圖片和視頻也完全有可能是AI生成的“假象”。

圍繞如何分辨AI，近期社交媒體上掀起了一股AIGC內(nèi)容打假熱。

實戰(zhàn)派通過小游戲練就識別AI的火眼金睛。8月5日微軟總裁Brad Smith在X平臺上發(fā)布了一個名叫“Real or Not?”的測試小游戲。玩法很簡單，每一輪游戲有15張圖片，玩家來判斷哪張是AI生成的，哪張是真實的。

游戲地址:

https://www.realornotquiz.com/

辨別難度之高，只錯一道題的游戲表現(xiàn)可以超過92%的玩家。

在實戰(zhàn)派還停留在用肉眼“鑒AI”時，技術(shù)派寄希望于用AI打敗AI。X博主“Deedy”近期利用Claude的新功能Artifacts開發(fā)了一個簡易工具，通過調(diào)整圖像飽和度來識別AI生成的圖片，僅在X平臺上就獲得了超140萬的瀏覽量。

工具地址:

https://claude.site/artifacts/6890e3d7-e65e-41ff-a7d4-3ccb38040b46

雖然這種檢測方法很快被網(wǎng)友實測打假:僅憑圖片的壓縮跡象和色彩偏差來推斷圖片是否出自AI之手，這種鑒別方法存在誤導(dǎo)性。因為類似的視覺特征可能僅僅是環(huán)境因素導(dǎo)致的，如光照變化或物體表面的反射效果。

但也從側(cè)面體現(xiàn)出，隨著AI生成的內(nèi)容愈發(fā)逼真，越來越多真假難辨的圖片和視頻正在迅速占領(lǐng)社交媒體，“鑒AI”也因此從創(chuàng)作者維權(quán)、約稿插畫師等小眾圈層需求走向大眾視野。

實際上，這種需求早已推動AI技術(shù)在識別AI生成內(nèi)容方面的應(yīng)用。

從文字到圖片再到視頻，都有相應(yīng)的AI檢測工具陸續(xù)問世。其中一款A(yù)I檢測工具甚至在過去6個月里，用戶規(guī)模從100萬增長到400萬，實現(xiàn)了盈利。這些AI檢測工具靠譜嗎?我們進(jìn)行了一番探究。

用AI打假AI，GPTZero半年增長300萬用戶

生成式AI對不同內(nèi)容形式的影響程度，通常與技術(shù)成熟度、市場需求和用戶接受度有關(guān)。

在ChatGPT引領(lǐng)的這波生成式AI浪潮中，文本內(nèi)容是首先取得突破的領(lǐng)域，也是目前AI檢測工具應(yīng)用較為成熟的領(lǐng)域。

賽道上的佼佼者——GPTZero，僅成立一年半就實現(xiàn)了數(shù)百萬美元的收入。在過去6個月里，其用戶規(guī)模從100萬增長到400萬，AAR（年度經(jīng)常性收入）增長了500%。用戶群體也從最初以教師為主，擴(kuò)展到了政府采購機(jī)構(gòu)、慈善機(jī)構(gòu)以及招聘經(jīng)理和AI訓(xùn)練數(shù)據(jù)標(biāo)注員等。

GPTZero由普林斯頓大學(xué)生Edward Tian于2022年底創(chuàng)建，最初只有一個簡單的功能，即根據(jù)用戶輸入的內(nèi)容，返回該內(nèi)容由AI生成的概率有多大。

GPTZero基本文本檢測的早期UI界面

如今GPTZero的網(wǎng)頁端已經(jīng)相當(dāng)完善且易用，用戶直接在交互框中復(fù)制黏貼文本或上傳文件，即可對文本進(jìn)行AI檢測。

GPTZero目前提供免費試用，但每次檢測字符不能超過5000字。如需進(jìn)行更長的本文檢測，可以選擇最低每月10美元的付費訂閱服務(wù)，以獲得更多的字符檢測額度和功能。（體驗地址:https://gptzero.me/）

在不超過免費試用字符的情況下，我們分別節(jié)選美國憲法、ChatGPT-4o生成的《黑神話:悟空》大鬧天宮版游戲結(jié)局和《西游記》三打白骨精原文對GPTZero進(jìn)行了實測。

其中，GPTZero在識別美國憲法和ChatGPT-4o生成的文本方面表現(xiàn)出較高的精準(zhǔn)度。它成功識別出美國憲法為人類撰寫的概率高達(dá)99%，而ChatGPT-4o生成的文本中只有幾個句子有“人類影響”的痕跡。

美國憲法節(jié)選

得到全文檢測結(jié)果后，用戶還可以使用“Deep Scan（深度掃描）”功能進(jìn)一步識別分析每個單句的AI含量如何。目前免費賬號每天僅支持3次深度掃描。

ChatGPT-4o生成的《黑神話:悟空》大鬧天宮版游戲結(jié)局節(jié)選

在識別中文文本上，GPTZero給出的結(jié)果相當(dāng)離譜:它認(rèn)為《西游記》中三打白骨精原文有75%的概率是AI生成的，但眾所周知《西游記》作者吳承恩可是生活在電腦都還沒有出現(xiàn)的明代。

《西游記》三打白骨精原文節(jié)選

在我們嘗試進(jìn)一步查看該判斷的數(shù)據(jù)依據(jù)時，GPTZero直接報錯，顯示它不支持對該語言進(jìn)行數(shù)據(jù)溯源?？梢姡珿PTZero不合適用來檢測中文文本，可能是其沒有進(jìn)行過相關(guān)數(shù)據(jù)訓(xùn)練。

此外，相關(guān)的AI數(shù)據(jù)集和抄襲匹配功能也都僅付費會員才能使用。

AI文本檢測工具頻繁翻車，賽道依舊火熱

GPTZero自2023年1月正式推出以來迅速走紅，重要原因在于它滿足了教育界對于檢測AI作弊的需求。去年10月，GPTZero還和美國教師聯(lián)合會達(dá)成了一項協(xié)議，幫助教師檢測由ChatGPT等大語言模型生成的學(xué)生作業(yè)。

但與此同時，GPTZero的走紅也伴隨著一定爭議。

例如，曾有網(wǎng)友實測發(fā)現(xiàn)，GPTZero會把美國憲法誤判為AI生成的文本。

在實際應(yīng)用中，GPTZero一類的AI檢測工具的準(zhǔn)確性也備受質(zhì)疑。如果教師僅依據(jù)這類工具的結(jié)果來判斷學(xué)生是否利用AI進(jìn)行學(xué)術(shù)造假和寫作，可能會導(dǎo)致無辜的學(xué)生受到不公正的對待。

這種情況不是個例。

在AI檢測工具的“獵巫”下，即便是那些寫作過程中沒有用到AI的學(xué)生，為了確保自己的論文能通過AI檢測，也不得不開始氪金使用這類工具，識別那些可能被AI標(biāo)記為“AI生成”的文本段落。

就像大模型對話類產(chǎn)品一樣，GPTZero也在用戶交互框下加了一行免責(zé)聲明的小字:“This result should not be used to directly punish students.（不能依據(jù)這個結(jié)果來懲罰學(xué)生）”。

也就是說，GPTZero的檢測結(jié)果僅供參考，并不能作為判斷學(xué)生是否利用AI進(jìn)行學(xué)術(shù)寫作的最終依據(jù)。

而在國外科技媒體TechCrunch實測中，其他同類型工具AI Writing Check、Copyleaks、GPTRadar、CatchGPT和Originality.ai，準(zhǔn)確率表現(xiàn)都不如GPTZero。

包括OpenAI也曾在2023年初推出了一款A(yù)I檢測工具，但因檢測成功率僅有26%，七個月后OpenAI就關(guān)閉了該工具。近期，《華爾街日報》報道稱OpenAI已經(jīng)開發(fā)出一款能夠高精度識別ChatGPT生成文本的工具，但出于種種利益相關(guān)原因遲遲沒有發(fā)布。

還有業(yè)內(nèi)人士認(rèn)為AI檢測器的反向應(yīng)用思路是，其難以給出高準(zhǔn)確度判斷的內(nèi)容生成領(lǐng)域，恰好證明是更適合AI產(chǎn)品應(yīng)用的領(lǐng)域，例如營銷文案和廣告語，包括GPTZero在內(nèi)的主流識別AI檢測器都出現(xiàn)了誤判。

TechCrunch實測:營銷類文案所有檢測器都出現(xiàn)誤判

GPTZero的檢測原理中有兩個重要指標(biāo):困惑度和突發(fā)性。困惑度和突發(fā)性越高，文本的“人味”就越高;與之相反，AI生成的文本往往具有較低的困惑度，可預(yù)測性更高。

此外，GPTZero的CTO Alex Cui曾透露，GPTZero之所以更準(zhǔn)確是因為它擁有更多的數(shù)據(jù)，檢測使用的大語言模型是基于開源工具構(gòu)建的。

換言之，GPTZero也只是一個“套殼”產(chǎn)品，但它的優(yōu)勢在于數(shù)據(jù)。

不止文本，多模態(tài)AI檢測產(chǎn)品正在涌現(xiàn)

文本檢測領(lǐng)域已經(jīng)跑出了一個GPTZero，而多模態(tài)AI內(nèi)容檢測的賽道才剛剛方興未艾。

針對圖片、視頻和音頻等內(nèi)容的AI檢測工具，海外已經(jīng)涌現(xiàn)出了Hive AI、AI or Not、Nuanced等產(chǎn)品。

國內(nèi)近期官宣內(nèi)測或上線的多模態(tài)AI內(nèi)容檢測工具也不少。例如，創(chuàng)始團(tuán)隊有清華大學(xué)背景的瑞萊智慧（RealAI）推出了一個面向個人的產(chǎn)品級檢測工具“尊嘟假嘟”，英文名為RealBelieve，可以讓AI偽造的圖像、音頻和視頻現(xiàn)出原形。

尊嘟假嘟視頻通話實時檢測內(nèi)測界面，來源:36氪

無論是海外還是國內(nèi)，雖然大部分AI檢測產(chǎn)品主要服務(wù)政府機(jī)構(gòu)和企業(yè)級用戶，但隨著大眾“鑒AI”的需求日益旺盛，一些產(chǎn)品也開始向C端用戶開放。

像AI or Not就支持個人用戶檢測圖片和音頻，界面交互使用起來也相當(dāng)方便。

數(shù)字內(nèi)容偽造檢測企業(yè)“中科睿鑒”近期完成新一輪融資，目的也是將業(yè)務(wù)線從ToG拓展成ToG、B和C三條產(chǎn)品線，實現(xiàn)AI鑒偽產(chǎn)品的規(guī)模化。

目前，中科睿鑒已面向大眾開放了文本、圖像和視頻檢測服務(wù)。在微信小程序搜索“睿鑒AI”即可體驗。

與文本檢測一樣，多模態(tài)AI內(nèi)容檢測工具也存在準(zhǔn)確率不高的問題。

我們用AI偽造的TED演講美女照片，測了測AI or Not，它認(rèn)為圖片“Likely Human（大概率是真人）”，如果想進(jìn)一步查看更多檢測信息，則需要付費開通會員。

最近X上也有網(wǎng)友嘗試使用市面上的AI圖像檢測工具，來鑒別美國大選哈里斯的集會場面是否是AI生成的。但被人反駁說并不存在“所謂的精確的人工智能圖像檢測器”，因為很多用戶上傳檢測的圖片是失真的，尤其是來自壓縮視頻的截圖。

生成式AI制造的深度偽造風(fēng)險，僅憑AI檢測工具是不足以解決的，還需要從法律和平臺監(jiān)管層面共同努力。

而GPTZero創(chuàng)始人Tian提出的AI檢測愿景，也不僅僅只是提供單點的檢測功能，而是通過創(chuàng)建一個獨立的互聯(lián)網(wǎng)檢測平臺，確保人類和AI生成的內(nèi)容都能得到正確的歸屬。

以上就是關(guān)于【用AI打假AI，這些倒反天罡的AI應(yīng)用正在悄悄走紅】的相關(guān)內(nèi)容，希望對大家有幫助！