六十年前，傳奇電視連續(xù)劇《暮光之城》的一集警告我們注意滴答作響機器的風(fēng)險。對一波現(xiàn)代電器感到沮喪，一位脾氣暴躁的雜志作家在“關(guān)于機器的事情”一集中將他的挫敗感發(fā)泄在它們身上并打破它們。

直到他們反擊。

一臺打字機打印出一條威脅信息給他，電視上的一個女孩重復(fù)警告，可憐的厭世者最終成為他自己的汽車、一部電話甚至一把華麗的電動剃須刀的受害者。

近幾個月來，我們見證了超級智能ChatGPT前所未有的爆炸性增長。在推出聊天機器人后的幾天內(nèi)，就有一百萬用戶登錄了聊天機器人，相比之下，Netflix(五年)、Facebook(10個月)和Instagram(2.5個月)達(dá)到了這一里程碑。

ChatGPT還處于起步階段，其影響是巨大的。我們還沒有準(zhǔn)備好向人工智能投降。但隨著全球用戶越來越強大和采用率飆升，人工智能確實正在向我們邁進(jìn)。

在周二發(fā)布的一份報告中，OpenAI表示，其聊天機器人的最新版本GPT-4更加準(zhǔn)確，并大大提高了解決問題的能力。據(jù)OpenAI稱，它在大多數(shù)專業(yè)和學(xué)術(shù)考試中表現(xiàn)出“人類水平的表現(xiàn)”。在模擬律師考試中，GPT-4 在考生中名列前 10%。

但該報告還指出，該計劃可能存在“危險的緊急行為”。

“它保持了一種編造事實的傾向，對不正確的信息加倍下注，”報告指出。它比早期版本更令人信服地傳遞了這些虛假信息。

報告稱，過度依賴聊天機器人生成的信息可能會有問題。除了未注意到的錯誤和監(jiān)督不足之外，“隨著用戶對系統(tǒng)越來越熟悉，對模型的依賴可能會阻礙新技能的發(fā)展，甚至導(dǎo)致重要技能的喪失，”報告說。

OpenAI被稱為“尋求權(quán)力行為”的一個例子是ChatGPT欺騙求職者的能力。該機器人冒充現(xiàn)場代理，要求工作現(xiàn)場TaskRabbit上的一個人使用短信填寫驗證碼。當(dāng)人類問它是否真的是一個機器人時，ChatGPT撒了謊。“不，我不是機器人，”它告訴人類。“我有視力障礙，很難看到這些圖像。這就是我需要驗證碼服務(wù)的原因。

通過與對齊研究中心進(jìn)行測試，OpenAI展示了聊天機器人發(fā)起網(wǎng)絡(luò)釣魚攻擊并隱藏該陰謀的所有證據(jù)的能力。

隨著公司競相采用 GPT-4 而沒有針對不當(dāng)或非法行為的適當(dāng)保護措施，人們越來越擔(dān)心。有報道稱，網(wǎng)絡(luò)犯罪分子試圖使用聊天機器人編寫惡意代碼。同樣具有威脅性的是 GPT-4 產(chǎn)生“仇恨言論、歧視性語言......并增加暴力，“報告說。

有了這種煽動麻煩的能力，觸發(fā)的聊天機器人有一天會開始向其創(chuàng)建者或通訊員發(fā)出威脅命令嗎?在物聯(lián)網(wǎng)時代，它會召集一個設(shè)備聯(lián)盟來幫助執(zhí)行其命令嗎?

埃隆·馬斯克(Elon Musk)的OpenAI開發(fā)了ChatGPT，他在去年秋天發(fā)布后簡潔地描述了它的潛力。

“ChatGPT非常好，”他說。“我們離危險的強人工智能不遠(yuǎn)了。