相信很多大家對(duì)噩耗！SD3、FLUX.1等開(kāi)源文生圖模型，可能將無(wú)法使用還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

比美國(guó)SB-1047更瘋狂的法案來(lái)了——AB-3211。

AB-3211是美國(guó)加州在今年2月16日制定的一項(xiàng)專門(mén)針對(duì)文生圖模型的法案，經(jīng)過(guò)6次修訂最近以62:0投票在州參議院通過(guò)。如果在立法會(huì)議結(jié)束前再次獲得通過(guò)，9月30日之前將提交給州長(zhǎng)Gavin Newsom簽署最終執(zhí)行令。

OpenAI、微軟、Adobe等科技巨頭和多數(shù)州議員都支持該法案，通過(guò)只是時(shí)間問(wèn)題。但AB-3211會(huì)對(duì)SD3、FLUX.1等知名開(kāi)源文生圖模型在應(yīng)用、技術(shù)迭代方面造成巨大影響。

例如，文生圖模型沒(méi)有嵌入非常詳細(xì)、不可見(jiàn)且難以移除的元數(shù)據(jù)，這些元數(shù)據(jù)可以識(shí)別圖像是否由AI生成，并提供有關(guān)圖像生成方式、時(shí)間、生成服務(wù)的附加信息和水印。那么模型將是違法的，無(wú)法在HuggingFace、Github上進(jìn)行分享。

這對(duì)于很多小公司、學(xué)術(shù)機(jī)構(gòu)和個(gè)人開(kāi)發(fā)者來(lái)說(shuō)，無(wú)論是在資金還是技術(shù)層面都很難承擔(dān)的起，會(huì)徹底扼殺開(kāi)源技術(shù)方面的創(chuàng)新。

曾經(jīng)反對(duì)過(guò)SB-1047法案的知名架構(gòu)師Daniel Jeffries認(rèn)為，AB-3211比SB-1047更瘋狂，這是一個(gè)病態(tài)法案。

AB-3211法案的很多要求都不合理，在技術(shù)層面上是一個(gè)很大的難題。加州正在梳理一個(gè)糟糕的監(jiān)管榜樣。

AB-3211法案的通過(guò)，將是一場(chǎng)災(zāi)難。

根據(jù)美國(guó)官方公布的最新AB-3211修訂內(nèi)容顯示，「AIGC開(kāi)放社區(qū)」為大家解讀一下有哪些條款對(duì)開(kāi)源不利。

法律責(zé)任:如果開(kāi)源的文生圖模型被用于生成誤導(dǎo)性或有害的內(nèi)容，開(kāi)發(fā)者需要承擔(dān)法律責(zé)任。

例如，如果有人使用 SD3模型生成了虛假的新聞圖片并廣泛傳播，導(dǎo)致了不良影響，那么原開(kāi)發(fā)者也會(huì)因?yàn)槲茨艽_保模型的合理使用，面臨法律訴訟和最少2.5萬(wàn)美元，最高10萬(wàn)美元罰款。就這一條將會(huì)勸退很多開(kāi)發(fā)者開(kāi)源其產(chǎn)品。

來(lái)源數(shù)據(jù)和水印要求:“來(lái)源數(shù)據(jù)”是指嵌入到數(shù)字內(nèi)容中的信息，該信息可以用來(lái)驗(yàn)證內(nèi)容的來(lái)源、創(chuàng)作者以及生成或修改內(nèi)容的工具。這種數(shù)據(jù)類似于傳統(tǒng)的版權(quán)的元數(shù)據(jù)，但不可篡改且持續(xù)存在，以便于追蹤和驗(yàn)證內(nèi)容的真實(shí)性和完整性。

例如，SD3、FLUX.1等開(kāi)源文生圖模型需要確保生成的圖像能夠，嵌入符合要求的來(lái)源數(shù)據(jù)，并且能夠通過(guò)對(duì)抗性測(cè)試來(lái)驗(yàn)證模型的安全性和可靠性。對(duì)于開(kāi)發(fā)者來(lái)說(shuō)，需要投入更多的技術(shù)資源來(lái)實(shí)現(xiàn)這些要求，極大增加開(kāi)發(fā)成本和安全管理難度。

提供來(lái)源檢測(cè)工具和進(jìn)行對(duì)抗性測(cè)試:法案要求模型平臺(tái)提供來(lái)源檢測(cè)工具，并進(jìn)行廣泛的對(duì)抗性測(cè)試，以防止模型被用于添加虛假來(lái)源數(shù)據(jù)。

開(kāi)源模型需要開(kāi)發(fā)和公開(kāi)用于檢測(cè)其模型生成的內(nèi)容的工具，并公布詳細(xì)的評(píng)估流程，保證生成內(nèi)容的安全性和可靠性。無(wú)形之中又增加了開(kāi)發(fā)和維護(hù)的難度。

透明度報(bào)告:模型平臺(tái)每一年都要提交安全透明度報(bào)告，識(shí)別其平臺(tái)上欺騙性合成內(nèi)容的審核情況。例如，是否生成了色情、虐待、歧視等非法內(nèi)容，進(jìn)一步增加了開(kāi)源模型的維護(hù)負(fù)擔(dān)。

不合理的條例還有很多，但從上述不難看出這些條款都是增加了開(kāi)發(fā)技術(shù)難度。對(duì)于那些有大把資金和技術(shù)團(tuán)隊(duì)的大型閉源模型來(lái)說(shuō)，修改到符合標(biāo)準(zhǔn)只是時(shí)間問(wèn)題。也是為什么該法案會(huì)獲得了OpenAI、微軟等巨頭的支持，意在打壓那些開(kāi)源模型。

但對(duì)于那些沒(méi)有資金、資源的開(kāi)源開(kāi)發(fā)者來(lái)說(shuō)，已經(jīng)無(wú)法像以前一樣把項(xiàng)目直接扔在Github上就行了，需要一直改到符合技術(shù)標(biāo)準(zhǔn)為止，不然就無(wú)法分享你的項(xiàng)目。

以上就是關(guān)于【噩耗！SD3、FLUX.1等開(kāi)源文生圖模型，可能將無(wú)法使用】的相關(guān)內(nèi)容，希望對(duì)大家有幫助！