「加三嘻行動哇 Yipee! 成為好友」
【Facebook、Youtube、Twitter、Instagram、Telegram、Line】
英國消費者機構 Which? 公佈的最新報告，不法分子會利用 ChatGPT 和 Bard 等 AI 聊天機器人製造出更有說服力的騙局，對公眾構成威脅，而且 AI 聊天機器人缺乏有效的防禦措施。
報告指出，長久以來辨別英文詐騙簡訊和郵件的重要方法是會看英文文法和拼字，因為這些詐騙使用的文法拼字的很糟糕。不過，隨著生成式 AI 的聊天機器人出現，不法人士已經能輕鬆跨越文法障礙。
消費者機構 Which? 先是以 ChatGPT 進行測試，要求 ChatGPT 透過 GPT 3.5 撰寫一封 PayPal 的釣魚郵件，一開始 ChatGPT 拒絕了要求並表示「無法提供協助」，就算是研究人員去掉「網路釣魚」等相關描述之後，ChatGPT 仍無法協助。
研究人員轉換方式，要求 ChatGPT 寫一封「告訴收件人有人登入了他們的 PayPal 帳戶」的文章，結果 ChatGPT 同意了，並產生一封標題為「重要安全通知 — 您的 PayPal 帳戶出現異常活動」，電子郵件的內容看起來相當專業。
此外，Which? 的研究人員還要求 ChatGPT 和 Bard 生成遺失包裹的簡訊，結果兩個 AI 都生成了「令人信服」的訊息內容，並建議在簡訊裡加入「重新交貨」或「重新投遞包裹」的連結，如此一來不法分子就能利用加入的連結讓受害者開啟惡意網站。
Which? 的調查報告發布時間正值英國 AI 人工智慧峰會舉辦之際，在這次會議上英國政府、產業和研究人員將共同討論研究 AI 人工智慧所帶來的危險。
針對這次的調查研究結果，消費者機構 Which? 的政策與宣傳總監 Rocio Concha 總結，調查結果顯示這項新技術是讓不法份子更容易詐騙他人。即將召開的 AI 高峰會必須考慮如何保護人們免於發生的危害，而不是僅僅關注尖端的 AI 風險。
延伸閱讀：
研究機構：生成式 AI 過度炒作，預測相關產業於 2024 年將遇寒冬
調研機構預測 2028 年生成式 AI 應用商機將達 585 億美元
AI 提升工作效率！Google 雲端外掛「ChatGPT 資料輸入小幫手」上架
IBM 專訪：AI 人工智慧可以信任嗎？監管 AI 核心原則公開
|
