法庭上沒有 ChatGPT！德州法官下令禁止所有 AI 生成內容

編譯／夏洛特

為了阻止人工智慧（AI）擾亂司法秩序，德州聯邦法官要求任何出庭的律師都必須提出「文件的任何部分都不是由生成式AI起草」的證明，或者如果是，則必須證明該文件受過「人工」檢查。日前，就因為一位律師將由ChatGPT提供的「假」案例拿到法庭上，引起該行業對使用AI的關注。

根據《Tech Crunch》的報導，德州法官 Brantley Starr為其法庭添加一項「生成式AI強制性認證」（Mandatory Certification Regarding Generative Artificial Intelligence）法規。要求所有出庭的律師都必須在案卷上提交一份證明，證明文件不是由生成式AI，如 ChatGPT、Harvey.AI 或 Google Bard等起草的，或者證明由AI起草內容受過「人工」編輯和核實。

律師必須簽署並提供相關證明，包括對此禁令必要性的充分理解和令人信服的保證等。引用、引注、轉述和法律分析也都包含在使用AI的禁令範圍內。 

生成式AI在法律中有很多用途。先前就有研究指出，AI已經可以在律師資格考試中勝過大多數法學院的畢業生。AI不但可以幫律師製作表格、撰寫文件還可以幫忙總結案例。《紐約時報》也表示，雖然AI還不能完全從事律師的工作。但他們可能已經可以取代律師助理、個人助理和翻譯等文書性質的工作。

但在AI幻覺問題解決之前，可能最好還是不要相信AI給出的所有資料。日前，律師 Steven Schwartz 就因為讓ChatGPT為他提供案件相關案例而引發混亂，這些案例隨後被發現都是AI的「幻覺」。基於數據被模型消化的方式不可預測，AI創造出非事實回應的「幻覺」問題到目前都還無法解決。在AI界，解決「幻覺」問題已經成為行業中的一大重點。
參考資料：Tech Crunch、The New York Times

※更多ChatGPT相關訊息，請參考【生成式AI創新學院】。

瀏覽 854 次