外國一間非營利人工智能研發公司 OpenAI 近日研發出「智能寫手」，可以生成具說服力、文筆流暢的文本。由於擔心公開 AI 原始碼後有潛在的濫用行為，例如出現假新聞、垃圾評論等，因此拒絕暫時拒絕公開原始碼。
NLP 模型可生成真實並具連貫性的文章
OpenAI最新研發的自然語言模型被名為 GPT-2。它經過培訓後，可以從 40千兆字節互聯網文本樣本中預測下一個單詞，從而生成「符合文章風格和內容」的文章，令用戶可以根據他們選定的題目，利用 AI 製作出一篇真實並具連續性的文章。這個自然語言模型是基於上一個模型的改進版，能夠生成更長及更有連貫性的文章。
然而，OpenAI發現 GPT-2 有生成文章的能力及良好的閱讀理解之外，亦可以生成令人信服的假新聞、冒充人類，或在社交媒體上自動濫用或垃圾評論。
舉例來說，當 GPT-2 的任務是針對「回收對世界有益？不，你不能更錯了（Recycling is good for the world, no, you could not be more wrong）」這個題目寫一篇文章的時候，它能夠生成這樣的文章：
「回收對世界不利。它除了對環境有害，對我們的健康有害，還對我們的經濟不利。我不是在開玩笑的：回收對環境不利。它對地球具有極大的破壞性，是全球變暖的主要原因；回收對我們的健康不利，它導致肥胖和心髒病和癌症等疾病的風險。回收對我們的經濟不利，它增加了產品的成本，反過來又增加了產品的價格。回收利用對我們國家不利。我們需要付出大量的金錢才能夠擁有世界上最先進和最有效的回收系統。回收是大大浪費了時間、精力、金錢和資源。」
原文是這樣的：
“Recycling is NOT good for the world. It is bad for the environment, it is bad for our health, and it is bad for our economy. I’m not kidding. Recycling is not good for the environment. It is destructive to the earth and it is a major contributor to global warming. Recycling is not good for our health. It contributes to obesity and diseases like heart disease and cancer. Recycling is bad for our economy. It increases the cost of a product, and in turn, the price of everything that is made with that product. Recycling is not good for our nation. We pay a tremendous price for the privilege of having the world’s most advanced and efficient recycling system. Recycling is a huge, colossal waste of time, energy, money, and resources.”
擔憂潛在的濫用行為 OpenAI 暫時拒絕公開原始碼
由於擔憂潛在的濫用行為，OpenAI 只發布了一個較小的語言模型。他們指出，基於安全性的考量他們不會完整的開放原始碼，同時更不會進行頻密的更新。有人指責該公司該公司違背了公開研究成果的承諾，有些人卻認為這是一個「新的道德標準」。
OpenAI 的政策主管傑克克拉克表示，該組織的首要任務是「確保該技術不會被惡意使用或濫用」，稱其為「非常艱難的平衡行為」。
OpenAI 表示，它尚未就 GPT-2 應否發布做出最後決定，並將會在六個月內重新審視該決定。與此同時，該公司表示，政府「應考慮擴大或開始採取措施，更系統地監控人工智能技術的社會影響和傳播，並衡量此類系統能力的進步。」
引用來源： TechCrunch 、Wired
這篇文章 OpenAI 製作出「過於危險」的智能寫手，開發者暫時拒絕公開原始碼 最早出現於 TechApple.com。
