【2024年10月05日訊】週三（10月2日），美國地區聯邦法官批准了一項初步禁令，阻止加州州長紐森兩週前剛簽署生效的AB2839防止深度僞造法（deepfakes law），該法律允許任何人就用AI技術生成的欺騙性圖像、視音頻等選舉材料提起民事訴訟並要求賠償。
AB2839新法
AB2839「選舉：廣告中的欺騙性媒體」（Elections： deceptive media in advertisements）由第28區民主黨籍州眾議員蓋爾·佩勒林（Gail Pellerin）提案，她表示：「那些試圖影響選舉的人——陰謀論者、外國政府、網絡『噴子』，甚至競選活動本身（在美國和世界各地製作和分發深度偽造圖像、音頻和視頻內容），這種AI生成的虛假信息會影響選民的行為，並破壞人們對選舉的信心。」
該法規定：「在選舉前120天至選舉後60天，候選人或委員會或選舉官員可尋求禁令或其它公平補救，禁止發放含欺騙性AI生成或更改內容的廣告等選舉材料；並授權他們可提起特殊損害賠償訴訟等補救措施。」
AB2839在參眾兩院分別以32:6和63:8通過，在2027年1月1日前有效，之後將延長或頒布新法。
裁決：維護《第一修正案》
資深地區法官約翰·A·門德斯（John A. Mendez）表示，對深度僞造的恐懼是合理的，但「這種恐懼並不能讓立法者肆無忌憚地推翻（憲法）《第一修正案》保護的批評、模仿和諷刺的長期傳統」。
儘管AI和深度僞造的內容構成重大風險，但他裁定，AB2839法案可能違反了《第一修正案》。門德斯寫道：「AB2839的大部分內容都像是一把錘子而不是手術刀，是阻礙幽默表達的鈍器，它違憲地扼殺了對美國民主辯論至關重要的自由和不受約束的思想交流。」
漢密爾頓林肯法律研究所（Hamilton Lincoln Law Institute，HLII）高級律師西奧多·弗蘭克（Theodore Frank）認爲這一裁決「直截了當」，「很高興地方法院同意我們的分析，即新技術不會改變《第一修正案》保護的原則」。
「第一修正案聯盟」（First Amendment Coalition）法律總監大衛·洛伊（David Loy）在9月份的一次採訪中表示，「政府不能自由地在《第一修正案》之外創造新的言論類別」，需要一整套法律和標準來證明是否欺詐或誹謗。
該聯盟認為AB2839存在違憲問題。它允許起訴任何傳播相關內容的人，無論原告是否受到人身傷害，這將「不正當地使法院捲入政治糾紛」。
起訴加州新法
在紐森簽署法案的兩天後（9月19日），HLII代表原告、YouTube製作人克里斯托弗·科爾斯（Christopher Kohls）對這項新法提起訴訟。此前科爾斯製作的一段惡搞視頻在網上流傳，視頻中有民主黨總統候選人、現任副總統賀錦麗（Kamala Harris）被用AI技術修改後的聲音。
據HLII網站，紐森在該視頻發表後發帖回應：「像這樣在『廣告』中操縱聲音應該是非法的，我將在幾週內簽署法案，以確保它是非法的。」
紐森簽署法案數小時後，社交媒體平台X的老闆埃隆·馬斯克（Elon Musk）即在X上分享了這段AI視頻，並寫道：「加州州長剛剛將這段惡搞視頻定為非法，這違反美國憲法。」言論自由倡導者們也認爲，加州的這項新法律侵犯了《第一修正案》權利。
佩勒林拒絕對訴訟發表意見。她表示：「我們的意思是只將該視頻標記為出於模仿目的的數碼修改。」「它清楚地表明是用於諷刺或模仿。」
加州三項防深僞新法
除AB2839外，紐森上月17日還簽署了另外兩項與選舉廣告和傳播相關的法案——AB2355和AB2655，將在明年1月1日生效，以「解決競選活動中欺騙性地使用AI生成和更改內容的問題，並從大型在線平台上刪除這些內容、提高問責制並告知選民」。
AB2655，由第23區民主黨州眾議員馬克·伯曼（Marc Berman）提出，要求大型在線平台在特定時期內刪除或標記與選舉相關的欺騙性、數碼修改／創建的內容，並要求它們提供報告此類內容的機制。它還授權候選人、民選官員、選舉官員、司法部長、地方檢察官或市檢察官向平台發出禁令。
AB2355，由第52區民主黨州眾議員溫迪·卡里略（Wendy Carrillo）提出，要求使用AI生成或大幅修改的選舉廣告披露其含有AI內容；授權公平政治實踐委員會尋求禁令或其它補救措施。
加州新出台的這三項法律，堪稱美國同類法律中最為嚴厲的。紐森在當日新聞稿中說，「維護選舉公正性對民主至關重要，我們必須確保AI不會通過虛假信息破壞公眾的信任——尤其是在當今緊張的政治氣氛中」，這些法案將確保不會未經本人同意就複製他們的聲音或肖像，並將打擊在政治廣告等內容中運用深度偽造。
紐森發言人伊茲·加登（Izzy Gardon）在聲明中稱，這些法律是保護民主並維護言論自由的，「我們相信法院將支持加州監管此類危險且具有誤導性的深僞作品的能力」，「諷刺在加州依然盛行——即使對於那些錯過笑點的人也是如此」。◇
