印度大選開票大致完成，莫迪執政聯盟勝選但席次縮水，這次選舉的一個問題就是選舉中深度偽造（deepfakes）和操縱選民的影音益發普遍，AI生成的內容已在世界各地的政治運動和選舉中大量出現，導致對民主過程的完整性以及虛假資訊和錯誤資訊破壞力的擔憂。
在選舉中使用AI生成內容是一個複雜的問題，需要從多個角度仔細考慮。AI建立的個性化和吸引人的內容可以增強政治運動的影響力和有效性，候選人和政黨可以利用這些技術，根據不同受眾量身定做資訊，將演講翻譯成各種語言，並加上引人入勝的視覺效果和動畫。但是同樣的工具也可能被濫用來製作誤導或徹底虛假的內容，從而破壞選舉過程的公正性，讓選民混亂和懷疑。
缺乏全面的AI選舉使用法規和保障措施加劇了這一問題，儘管一些AI公司已經採取措施來防止產生與選舉相關的錯誤資訊，但這些措施往往很容易被規避。還有許多公司將利潤置於道德考慮之上，缺乏明確的指導方針和執法機制，讓惡意行為者利用這些技術謀取私利。
AI生成內容可能會放大現有的偏見和兩極分化，針對特定受眾量身定做資訊並強化某些敘事，AI也會助長回音效應，進一步加劇社會在政治上的分裂。這可能會導致公眾話語的混亂，削弱共同事實和客觀現實的基礎，最終破壞民主的根基。
AI本身並無善惡，關鍵在於使用的目的和背後的意圖。儘管會被濫用，但AI也可以用於打擊虛假資訊和錯誤資訊。例如AI驅動的事實核查系統和內容審核工具可以檢測和標記深度偽造和其他被操縱的內容，為虛假資訊的傳播提供剎車。
科技公司有責任將道德考慮和公眾利益置於短期利潤之上，他們應投資開發檢測和驗證AI生成內容的強大系統，實施更嚴格的防止濫用工具的保障措施，公司與研究人員和民間組織的合作可以更有效地解決這些挑戰。
民間組織和獨立監督機構在提高人們對AI生成內容在選舉中的潛在風險的認識、宣導負責任的AI使用、以及讓政府和企業負起責任方面可以發揮作用，他們還可以作教育宣傳活動和募集資源，幫助公眾更好地理解和處理AI深度偽造的複雜性。
媒體素養和批判性思維讓公民有能力了解AI生成內容，教育計畫應著力於培養公眾認知，有能力評估潛在深度偽造和被操縱內容，以及培養懷疑和查核事實的文化。
在選舉中使用AI生成內容是一個影響深遠的複雜問題，關係到民主過程的完整性和公眾對資訊來源的信任。儘管AI的偽造會永遠存在，但在負責任和受監管的情況下使用這些技術也可以促進更有效和更具包容性的政治運動。解決這一挑戰需要各利益團體共同努力，包括政府、科技公司、民間組織和公眾，大家互相合作、制定健全的法規和道德準則、提高媒體素養和批判性思維，如此才可以發揮AI的益處，同時在選舉時降低其潛在風險。（作者為台北商業大學前校長）
發表意見
中時新聞網對留言系統使用者發布的文字、圖片或檔案保有片面修改或移除的權利。當使用者使用本網站留言服務時，表示已詳細閱讀並完全了解，且同意配合下述規定：
違反上述規定者，中時新聞網有權刪除留言，或者直接封鎖帳號！請使用者在發言前，務必先閱讀留言板規則，謝謝配合。