風靡一時的聊天機器人?ChatGPT?背后的公司?OpenAI?周二宣布，它將向報告其人工智能系統漏洞的用戶提供最多 20000 美元資金。

OpenAI 表示：「我們的獎勵范圍從 200 美元的低嚴重性發現到高達 20000 美元的特殊發現，」。該計劃是通過 Bugcrowd 這個漏洞賞金平臺進行的。

然而，OpenAI 不接受 ChatGPT 的越獄行為，也不接受旨在欺騙人工智能程序違反其自身規則的文本提示。自從 ChatGPT?首次出現以來，用戶已經找到了越獄的方法，讓聊天機器人回應臟話，寫一些被禁止的政治話題，甚至是創建惡意軟件。

漏洞賞金計劃也不接受關于 ChatGPT 生成不正確事實的報告。OpenAI 說：「模型安全問題并不適合在一個漏洞賞金計劃中，因為它們不是可以直接修復的單獨、不連續的錯誤。解決這些問題往往涉及大量的研究和更廣泛的方法」。

OpenAI 稱，大多數發現的初始優先級評級將使用漏洞賞金平臺 Bugcrowd 的漏洞評級分類法。然而，漏洞優先級和獎勵可以根據可能性或影響進行修改，由 OpenAI 自行決定。如果出現降級問題，安全研究人員將得到詳細的解釋。

?版權聲明：如無特殊說明，本站所有內容均為AIHub.cn原創發布和所有。任何個人或組織，在未征得本站同意時，禁止復制、盜用、采集、發布本站內容到任何網站、書籍等各類媒體平臺。否則，我站將依法保留追究相關法律責任的權利。