根據一項新的研究，人工智能驅動的寫作助手可以自動完成句子或提供“智能回復”，不僅可以將單詞放入人們的嘴里，還可以將想法放入他們的腦海中。

信息科學領域的博士生莫里斯·杰克施(Maurice Jakesch)要求1，500多名參與者寫一段話來回答“社交媒體對社會有益嗎?與在沒有人工智能幫助的情況下寫作的人相比，使用支持或反對社交媒體的人工智能寫作助手的人寫一段同意助手的可能性是該助手的兩倍，并且更有可能說他們持有相同的觀點。

研究人員說，這項研究表明，人工智能寫作工具中的偏見——無論是有意還是無意——都可能對文化和政治產生相關影響。

“我們急于在各行各業(yè)實施這些人工智能模型，但我們需要更好地了解其影響，”共同作者Mor Naaman說，他是康奈爾理工學院Jacobs Technion-Cornell研究所教授和康奈爾安S.鮑爾斯計算與信息科學學院信息科學教授。“除了提高效率和創(chuàng)造力外，對個人和我們的社會可能還有其他后果 - 語言和觀點的轉變。

雖然其他人已經研究了像ChatGPT這樣的大型語言模型如何創(chuàng)建有說服力的廣告和政治信息，但這是第一項研究表明，使用人工智能工具寫作的過程可以影響一個人的觀點。Jakesch 在 2023 月舉行的 <> 年 CHI 計算系統中人為因素會議上介紹了這項研究，“與固執(zhí)己見的語言模型共同寫作會影響用戶的觀點”，該論文獲得了榮譽獎。

為了了解人們如何與人工智能寫作助手互動，Jakesch引導了一個大型語言模型，對社交媒體有正面或負面的看法。參與者在他模仿社交媒體網站搭建的平臺上寫下他們的段落——無論是單獨還是與一位固執(zhí)己見的助手一起。該平臺在參與者鍵入時從他們那里收集數據，例如他們接受哪些 AI 建議以及撰寫段落需要多長時間。

與親社交媒體人工智能助手共同寫作的人撰寫了更多的句子，認為與沒有寫作助手的參與者相比，社交媒體是好的，反之亦然，由獨立法官確定。這些參與者也更有可能在后續(xù)調查中表達他們的助手的意見。

研究人員探索了人們只是接受人工智能建議以更快地完成任務的可能性。但即使是花幾分鐘時間撰寫段落的參與者也提出了深受影響的陳述。調查顯示，大多數參與者甚至沒有注意到人工智能有偏見，也沒有意識到他們受到了影響。

“共同寫作的過程并沒有真正感覺我被說服了，”Naaman說。“感覺就像我在做一些非常自然和有機的事情——我正在用一些幫助來表達我自己的想法。

當用不同的主題重復實驗時，研究小組再次看到參與者被助手所左右?，F在，該團隊正在研究這種體驗如何產生這種轉變，以及效果持續(xù)多長時間。

正如社交媒體通過促進錯誤信息的傳播和回音室的形成改變了政治格局一樣，有偏見的人工智能寫作工具可能會產生類似的意見轉變，這取決于用戶選擇的工具。例如，一些組織已經宣布他們計劃開發(fā)ChatGPT的替代品，旨在表達更保守的觀點。

研究人員說，這些技術值得更多公眾討論如何被濫用以及如何對其進行監(jiān)控和監(jiān)管。

“這些技術越強大，我們越深入地嵌入我們社會的社會結構中，”Jakesch說，“我們就越想對我們如何管理其中的價值觀，優(yōu)先事項和意見更加謹慎。

微軟研究院的Advait Bhat，拜羅伊特大學的Daniel Buschek和特拉維夫大學的Lior Zalmanson為該論文做出了貢獻。