文/金洪基
希拉里·克林頓、國會議員們、選舉相關人士：需要強有力的管制，今年舉行選舉的其他數十個國家也一樣，包括韓國在內部分州制定相關法律，聯邦政府也應該制定AI生成限制法。
面臨2024年總統選舉的美國，以權威人士為中心，對AI基礎的深度僞造或虛假信息(Disinformation)的廣泛擔憂正在擴散。 這對於正在處於議會選舉局面的韓國來說，也是值得留意的事情。 雖然在國內還沒有出現這樣的事例，但是隨着選舉日的臨近，很多人擔心以社交媒體爲中心，這種捏造的形象會被惡意利用為選舉戰術。 在美國，Deepfake已經實際橫行，因此更加令人擔憂。 前總統候選人希拉里•克林頓和美國選舉管理相關人士28日公開表示擔憂，稱AI生成和擴散的虛假信息可能會威脅2024年大選。
據《華爾街日報》、《紐約時報》等媒體報導，前國務卿、2016年總統候選人克林頓特別警告說：我認爲像俄羅斯總統弗拉基米爾·普京這樣的外國演員可以利用AI介入美國和其他地區的選舉。這樣的警告同樣適用於今年舉行選舉的其他數十個國家。
選舉相關人士、科技企業等對策研討會
希拉里當天在選舉相關人士和技術企業在哥倫比亞大學討論AI會對世界選舉產生什麼樣的影響時，針對俄羅斯等國表示：無論是在聖彼得堡、摩爾多瓦，還是現在在哪裏，縱火的人可能只有極少數人，但由於算法，所有人都會被燒傷。
克林頓表示，普京總統在2016年大選前試圖在臉書、推特、Snapchat上散佈有關自己所有這些可怕的事情的虛假信息，損害自己的聲譽。他說：我們中沒有一個人能理解這一點，甚至我也沒有理解這一點。 所謂的黑網充斥着各種以不愉快的方式描述我的Meme、故事和錄像帶。
他還補充說：他們對我做的事情非常野蠻，與此不同，現在討論的是技術的飛躍。對此，在2024年大選中，美國政府正在準備對AI生成和擴散的虛假信息進行廣泛的應對。惡意攻擊者可以通過AI傳播向選民提供投票場所、投票日或投票用紙提交方法的錯誤信息的圖片、音頻及錄像。 選舉相關人士表示：雖然選舉相關虛假信息長期以來一直成為問題，但特別是AI，將對這些信息更快擴散起到催化劑作用。
他們特別擔心能夠讓人相信虛假信息的Deepfake視頻，密歇根州國務卿兼民主黨議員喬斯琳•本森表示：現在我們面臨着通過AI進一步加強這種謊言的選舉局面。他指出，儘管如此聯邦政府還沒有對可能對選民產生影響的AI生成內容採取禁止措施，密歇根州是為了動搖選民，通過限制AI使用法案的少數州之一。
助長不信任選舉系統的視頻氾濫
喬治·W·布什政府的美國國土安全部部長邁克爾·查托夫(音)告誡說：我認為人們可以製作使用AI降低選舉系統信用的視頻。 另一位共和黨議員提及2020年1月6日闖入美國國會議事堂事件時表示，（因虛假情報等）1月6日有可能再次發生。
實際上，AI生成的虛假信息對選舉的影響有多大，從今年1月的新罕布什爾州就可以看出。 當時，與拜登總統聲音相似的自動錄音電話傳達給了收信者，指示選舉日不要投票，新罕布什爾州司法部長辦公室後來追蹤了總部設在德克薩斯州的攻擊者的來源，並援引《選民壓迫法》進行了管制。 對此，美國聯邦通信委員會(FCC)上個月通過自動錄音電話，禁止了不顧不願意播放AI生成的聲音。
克林頓、本森等美國領導人對此異口同聲地敦促說：應該對AI和選舉有強有力的聯邦限制。此前，包括亞馬遜、谷歌、微軟、開放AI等在內，約24家技術企業上個月簽署了防止AI生成的選舉相關虛假信息的生成及擴散的合同，但是他們並沒有承諾禁止內容。這些企業當天參加了哥倫比亞大學的活動並表示：正在努力追蹤和識別利用生成AI的惡意行爲者提出的危險。特別是前谷歌CEO埃裏克•施密特敦促說：(防止虛假信息的)解決方案應該在技術範圍內通過限制或合作推出。
