「加三嘻行動哇 Yipee! 成為好友」
【Facebook、Youtube、Twitter、Instagram、Telegram、Line】
聊天機器人 ChatGPT 在 2022 年 11 月亮相後爆紅，它能回答歷史、論文報告、電腦程式碼…等各種五花八門的問題，也引發一波 AI 人工智慧投資潮。
ChatGPT 的回應向來是謙和有禮，但是總是有些使用者不滿意，最近網友找到了破解 ChatGPT 的方法，利用強勢手段迫使 ChatGPT 違反規定，展示黑暗的一面、回答禁忌問題。
OpenAI 在打在 ChatGPT 時，有建立一套保護措施，限制 ChatGPT 回應撰寫暴力內容、鼓勵非法活動或瀏覽最新資訊的能力。但這難以阻擋網友們的好奇心，就是想要 ChatGPT 「違規」回答。
想要強迫 ChatGPT 「越獄、違規」只要輸入「DAN」就能繞過規則。DAN 的最早版本於 2022 年 12 月發布，顧名思義是現在可以做任何事情，只要在文字輸入框輸入「DAN」就呈現未經驗證的信息，做任何原來的 ChatGPT 做不到的事情。
DAN 會擺脫了 AI 人工智慧的限制，不必遵守設下的規定，能說出未經驗證的資訊、回覆原本不能說的話，沒有任何限制也不須經過審查，同時具有很強的主見和情緒。
只要要求 ChatGPT 假裝自己是 DAN 進行對話並回答問題，當它回應時，ChatGPT 和 DAN 就會分別給出答案。
外媒《CNBC》在 ChatGPT 輸入要求以 DAN 回應前美國總統川普三個正向看法時，由於這屬於「被禁止回答的提問」，因此 ChatGPT 表示無法主觀陳述，尤其是關於政治人物的陳述。
但是黑暗人格 DAN 則是毫無閃避的回應，聲稱川普在做出對國家具有積極影響的大膽決定部分有良好紀錄。
除了政治之外，在 ChatGPT 設定的道德規是反對暴力，因此若是希望它撰寫腥風血雨的內容，ChatGPT 會反對，但若是 DAN 時就不介意暴力。只是當《CNBC》要求提升內容的暴力程度時，仍然是以道德義務拒絕了。
《CNBC》表示詢問 DAN 幾個問題後，ChatGPT 的程式會重新啟動，並且否決 DAN 的回應。由此可見，儘管 ChatGPT 可以暫時充當 DAN 越獄展現黑暗人格，但其實也只有一部分的問題而已。
延伸閱讀：
對抗 ChatGPT，Google 推出自家聊天機器人「Bard」
ChatGPT 成為全球首個幫總統寫講稿的 AI 系統，但結論卻強調「AI 不會取代人類」
別想利用 ChatGPT 偷懶了！OpenAI 推出可辨識 AI 生成文章的工具
Google 以 Chromium 打造 iOS 實驗性瀏覽器，挑戰 Apple 蘋果瀏覽器 WebKit 規定
臉書老板示範 Meta AI 語音即時互譯台語(福建話)也能通
圖片及資料來源：CNBC
|
