真的寫的太好了!OpenAI將自動寫作AI延後公開研究信息
而在這一點上,GPT2 卻幾乎沒有其他 AI 同伴所具有的相同缺陷,在提供簡短範例文字並要求接續撰寫後,GPT2 不僅能寫出風格和主題相同的合理段落,在一些寫法上甚至難以看出不是由人所執筆撰寫。單純這樣形容可能難以想象,我們不妨來看英國衛報中提到 GPT2 接續寫作的兩個例子。在提供英國知名作家喬治奧威爾(George Orwell)的《一九八四》的開場句子「四月裏一個晴朗帶有寒意的日子,時鐘敲了十三下,」後,GPT2 從中辨識出模糊的未來主義色彩和小說寫作風格,並接續寫下以下句子:
“I was in my car on my way to a new job in Seattle. I put the gas in, put the key in, and then I let it run. I just imagined what the day would be like. A hundred years from now. In 2045, I was a teacher in some school in a poor part of rural China. I started with Chinese history and history of science.”
“Asked to clarify the reports, a spokesman for May said: ‘The PM has made it absolutely clear her intention is to leave the EU as quickly as is possible and that will be under her negotiating mandate as confirmed in the Queen’s speech last week.’”
OpenAI 研究主管 Dario Amodei指出,從研究的角度來看,GPT2 在兩種面向上具有開創性。其一是它的大小,其二則是理解內容的程度。在運用包含約 1,000 萬篇 Reddit 文章的數據集(所有文章的總大小約 40GB)進行培訓之下,GPT2 比過去最先進的模型都要大上 12 倍,理解的內容也更加廣泛。而就像人一樣,培訓的數據數量直接影響了 GPT2 的「寫作能力」,透過解構輸入的文字內容,GPT2 可以執行包括翻譯和摘要在內的文字任務,同時在簡單的閱讀理解測試上,GPT2 也能比專為這項任務打造的 AI 同樣甚至更好。為了解釋這意味著什麽,OpenAI 制作了一個版本的 GPT2,並進行了一些適度的調整來產生無限制的正面或負面產品評論。同樣的,垃圾郵件和假新聞是另外兩個明顯的潛在惡意用途,由於 GPT2 是使用網絡進行訓練,因此不難鼓勵它產生偏執或具有陰謀論的內容。這種突出的表現也讓 OpenAI 決定暫時關閉 GPT2,來評估惡意用戶可能會用它做什麽。慈善機構負責人 Jack Clark 表示,團隊計劃進行更多的實驗,找出惡意用戶能做什麽又不能做什麽,「如果你無法預測模型的所有能力,你必須刺激它來看看它的能耐,外面有許多人比我們更懂得思考如何用它來做壞事。」內文來源至:http://www.cafes.org.tw/info.asp
真的寫的太好了!OpenAI將自動寫作AI延後公開研究信息