「加三嘻行動哇 Yipee! 成為好友」
【Facebook、Youtube、Twitter、Instagram、Telegram、Line】
2024 年是全球超級選舉年，包括台灣在內，共有 76 個國家準備投票。而最近備受矚目就是美國總統大選。據《彭博社》報導，美國 New Hampshire 新罕布夏州的居民接到一通來自美國總統 Joe Biden 拜登的電話語音，要求居民不要參與當地初選。
然而經過資安公司 Pindrop 分析發現，這段語音並非由拜登總統錄製，而是有使用者利用 AI 人工智慧語音複製公司 ElevenLabs 的工具進行深偽製作，因此 ElevenLabs 也緊急封鎖這些使用者帳號，阻止干擾選舉。
報導指出，Pindrop 資安公司先是去除了背景噪音、清理了機器人的音訊，然後把語音內容與超過 120 種用於生成式深偽的語音合成技術樣本進行比較。
最終，Pindrop 首席執行長 Vijay Balasubramaniyan 告訴《Wired》雜誌表示，結果顯示 99% 以上是來自 ElevenLabs。目前 ElevenLabs 已經得知 Pindrop 的發現並在進行調查中，同時已經辨識並暫停了製作深偽語音的使用者帳號。
ElevenLabs 透露給《彭博社》指出，ElevenLabs 目前無法對問題本身進行評論，但他們「致力於防止濫用 AI 人工智慧的語音複製工具，並且對任何濫用行為非常嚴肅看待。」
這次深度偽造的拜登機器人語音訊息顯示，使用者可以利用模仿他人外貌和聲音的技術來操縱美國總統選舉。卡內基梅隆大學的教授 Kathleen Carley 告訴《The Hill》雜誌稱，這只是壓制選民或攻擊選舉工作人員的冰山一角，在未來幾個月裡，應該期待還會有更種可能性。
不過，除了拜登總統之外，ElevenLabs 平台測試版本在推出數天後，網路就開始使用這項工具建立聽起來像名人讀書或說一些可疑內容的剪輯音訊。ElevenLabs 允許使用者使用自己的技術克隆聲音，用於「為公眾辯論做出藝術和政治發言」。而在安全頁面裡，提醒他們「不能為詐騙、歧視、仇恨言論或任何形式的在法律上違法濫用而複製聲音。” 但顯然，ElevenLabs 仍需要加強保障，以防止不法分子使用 AI 工具影響選民並操縱全球的選舉。
延伸閱讀：
外媒指出英國的 Faceboook 臉書充斥深偽廣告，假冒首相引發擔憂
【心得分享】Leica M11-P 少了經典紅標，多了還原真實的 CAI 技術
ChatGPT 機器人冒充總統候選人！OpenAI 因而暫停開發者資格
|
