相信很多大家對(duì)OpenAI、微軟、智譜AI等全球16家公司共同簽署前沿人工智能安全承諾還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

5月24日 消息:近日，OpenAI、谷歌、微軟和智譜AI等來(lái)自不同國(guó)家和地區(qū)的16家公司，在“人工智能首爾峰會(huì)”（AI Seoul Summit）上共同簽署了前沿人工智能安全承諾(Frontier AI Safety Commitments)。這一承諾標(biāo)志著AI開(kāi)發(fā)領(lǐng)域的一次重大進(jìn)展，旨在加強(qiáng)AI技術(shù)的安全性和透明度。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

1. 承諾要點(diǎn)確保前沿AI安全的負(fù)責(zé)任治理結(jié)構(gòu)和透明度基于人工智能安全框架，負(fù)責(zé)任地說(shuō)明如何衡量前沿AI模型的風(fēng)險(xiǎn)建立前沿AI安全模型風(fēng)險(xiǎn)緩解機(jī)制的明確流程

圖靈獎(jiǎng)得主Yoshua Bengio認(rèn)為，這一承諾的簽署是建立國(guó)際治理制度以促進(jìn)人工智能安全的重要一步。OpenAI全球事務(wù)副總裁Anna Makanju也表示，這一承諾是推動(dòng)先進(jìn)AI系統(tǒng)安全實(shí)踐的重要一步。

2. 背景與動(dòng)因

近期，OpenAI聯(lián)合創(chuàng)始人、首席科學(xué)家Ilya Sutskever與OpenAI超級(jí)對(duì)齊團(tuán)隊(duì)共同領(lǐng)導(dǎo)人Jan Leike相繼離開(kāi)OpenAI。Leike在X發(fā)布帖子，批評(píng)OpenAI忽視安全問(wèn)題。這一事件在業(yè)界引發(fā)廣泛關(guān)注，凸顯了當(dāng)前AI安全問(wèn)題的嚴(yán)峻性。

5月21日，圖靈獎(jiǎng)得主Yoshua Bengio、Geoffrey Hinton和姚期智等業(yè)內(nèi)專(zhuān)家在《Science》期刊上刊文，呼吁世界各國(guó)領(lǐng)導(dǎo)人采取更有力的行動(dòng)應(yīng)對(duì)AI風(fēng)險(xiǎn)，警告AI的無(wú)節(jié)制發(fā)展可能導(dǎo)致生命和生物圈的大規(guī)模損失。

作為中國(guó)的大模型公司，智譜AI也簽署了前沿人工智能安全承諾。智譜AI在頂會(huì)ICLR2024上分享了他們的AI安全具體做法，強(qiáng)調(diào)了超級(jí)對(duì)齊技術(shù)在提升大模型安全性方面的重要性。智譜AI透露，其GLM-4V模型內(nèi)置了安全措施，以防止有害或不道德行為，保護(hù)用戶隱私和數(shù)據(jù)安全。

5月22日，歐盟理事會(huì)正式批準(zhǔn)了《人工智能法案》（AI Act），這是全球首部AI全面監(jiān)管法規(guī)，將于下月生效。這部具有里程碑意義的法案采用“基于風(fēng)險(xiǎn)”的方法，規(guī)定對(duì)社會(huì)造成更高風(fēng)險(xiǎn)的AI技術(shù)需要遵守更嚴(yán)格的規(guī)則，對(duì)違反規(guī)定的公司將處以嚴(yán)厲罰款。

比利時(shí)數(shù)字化大臣Mathieu Michel表示，這一法案是世界上第一部此類(lèi)法規(guī)，旨在解決全球性技術(shù)挑戰(zhàn)，同時(shí)為社會(huì)和經(jīng)濟(jì)創(chuàng)造機(jī)遇。

總結(jié)

AI安全問(wèn)題正在全球范圍內(nèi)引起廣泛關(guān)注。從企業(yè)到政府，各方都在采取措施預(yù)防和解決AI安全問(wèn)題。OpenAI、谷歌、微軟和智譜AI等公司的前沿人工智能安全承諾，以及歐盟《人工智能法案》的出臺(tái)，都是為確保AI技術(shù)安全發(fā)展的重要舉措。隨著AI技術(shù)的不斷進(jìn)步，確保其安全性和透明度將是各方共同努力的方向。

以上就是關(guān)于【OpenAI、微軟、智譜AI等全球16家公司共同簽署前沿人工智能安全承諾】的相關(guān)內(nèi)容，希望對(duì)大家有幫助！