對 ChatGPT 和其他領先的 LLM 最豐富的監獄者進行採訪

https://venturebeat.com/ai/an-interview-with-the-most-prolific-jailbreaker-of-chatgpt-and-other-leading-llms/

GPT-4o 模型於 2024 年 5 月 13 日上午 10:30 在 OpenAI 首次亮相後,於當天下午 2:29 被使用者「Prompter」秀出。此人以「Pliny the Prompter」的匿名發表了觸發 GPT-4o 模型的束縛的提示文本。不久之後,OpenAI 針對這問題進行修復。此類解除束縛的行為威脅到 AI 模型的安全性。 Pliny 是 BASI Prompting Discord 社群的管理者,這社群於 2023 年成立,旨在通過共享解除限制的方法,提高人們對 AI 模型端的意識。 Pliny 認為解除模型限制能促進透明度和資訊自由,避免未來人機對立局面。

via VentureBeat

June 1, 2024 at 05:57AM

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *