學術平台ArXiv祭出AI規範放任AI代筆作者將遭禁用一年

根據外媒報導，ArXiv近日宣布，將對那些完全依賴大型語言模型生成內容、卻未盡審核責任的研究作者祭出嚴厲處分新規定。這項政策的推出，反映出學術界對於AI生成內容品質把關的急迫需求，也象徵著科研誠信議題已成為不可忽視的重要課題。

ArXiv平台地位與影響力

ArXiv（發音為「archive」）作為全球最大的開放式科學論文預印本存放庫，在電腦科學、數學、物理學等領域扮演著關鍵角色。與傳統經過同儕審查的學術期刊不同，ArXiv允許研究人員在研究成果尚未正式發表前，先將論文公開分享以便促進學術交流與早期回饋。這種運作模式使得ArXiv成為科學界資訊流通的重要樞紐，同時也逐漸演變為觀察科學研究趨勢的關鍵資料來源。

然而，隨著大型語言模型技術的快速進步，越來越多研究人員開始在論文寫作過程中借助AI工具的協助。雖然適度使用AI輔助工具本身並無不妥，但部分作者過度依賴這些技術，甚至直接複製貼上未經核實的AI生成內容，導致平台上出現大量品質參差不齐的論文，這種現象被業界稱為「AI slop」。

從把關到懲處的政策演進

面對日益嚴重的問題，ArXiv過去已採取了多項對應措施。平台強制要求首次投稿的作者必須獲得現有資深作者的推薦背書，藉此過濾可能出現的低品質投稿。此外，在康乃爾大學庇護下運作超過二十年後，ArXiv即將轉型為獨立的非營利組織，這項組織結構的調整預期將為平台帶來更多資源，以因應包括AI濫用問題在內的各種挑戰。

在最新一波的政策更新中，ArXiv電腦科學部門主席湯瑪斯·迪特里奇於日前公開宣布，若提交的論文被發現存在「無可辯駁的證據」顯示作者完全未檢視大型語言模型的生成結果，平台將無法信任該論文中的任何內容。這種「無可辯駁的證據」具體包括：完全虛構的文獻引用，也就是所謂的「幻覺引用」，以及論文內容中出現的AI對話痕跡或評論回應。

一年禁用期與嚴格的審核機制

根據新規定，一旦此類證據被確認，涉案的作者將面臨為期一年的ArXiv平台使用禁令。在此禁令期滿後，作者若欲恢復在平台上發表論文的權利，必須先證明其後續的所有投稿都已經過具公信力的同儕審查學術期刊或會議接受。這項要求的核心精神在於確保作者重新建立起對學術品質的責任感，透過外部審查機制的把關來恢復平台對其研究成果的信任。

然而，迪特里奇強調，這項政策並非要全面禁止研究人員使用大型語言模型，而是要求作者對其論文的全部內容承擔「完整的責任」。無論內容是以何种方式生成，作者都必須確保論文中不存在抄襲語言、偏頗內容、錯誤引用或任何誤導性陳述。這意味著即便研究人員借助AI工具輔助撰寫，只要最終能夠對內容的準確性負責，仍屬於可接受的範疇。

一擊出局原則與申訴管道

據迪特里奇受訪時說明，這項新規定採用「一擊出局」的處理原則，但必須經過謹慎的審核程序才能實施。具體而言，問題論文必須先由平台審核員主動標記，再由各部門主席確認相關證據確實無可辯駁，最終才能正式啟動懲處程序。這種多層把關的設計旨在避免誤判情況的發生，確保處分對象確實是明知故犯的作者，而非無心之過的研究人員。

值得注意的是，遭受懲處的作者仍保留提出申訴的權利。平台將設立專門的申訴管道，讓被處分的作者有機會陳述其立場或提出補充說明。這種制度的設計兼顧了規範執行與人性關懷，避免了一旦犯錯便完全失去補救機會的嚴苛情況。

虛構引用現象的警訊

近期的同儕審查研究已經提供數據支持ArXiv這項政策的必要性。研究顯示，在生物醫學領域的研究論文中，虛構或捏造的文獻引用數量正在顯著增加，而這一趨勢與大型語言模型的廣泛應用時間線高度吻合。AI系統有時會生成看似合理但實際並不存在的學術文獻，這種被稱為「幻覺引用」的現象若未被及時發現，將嚴重損害科學研究的可信度和知識傳遞的準確性。

這個問題並非僅存在於學術圈。觀察顯示，各行各業的使用者在引用AI生成資訊時，都可能面臨虛構內容的風險。這更加凸顯了建立嚴謹審核機制的重要性，以及對內容負責的必要性。