1. 程式人生 > >AI文字產生技術引爭議!Open AI公開部份技術

AI文字產生技術引爭議!Open AI公開部份技術

研究 duplex mark mage 技術 科幻小說 測試 分享圖片 完整

由科技巨子馬斯克(Elon Musk)支持的非營利組織Open AI,近期公布的AI文字產生器GPT2,由於可產生幾近真人撰寫的假新聞,引發極大爭議,OpenAI決定不釋出訓練好的模型,只公開一小部份模型和範例。GPT2以近40 gigabyte的網頁文字訓練而成,旨在使其具備預測下一個文字的能力。研究團隊宣稱GPT2產生的文字可因應前後文的風格和內容,使用者只要餵給它一段文字,這個AI系統就能產生任意主題「逼真而有條理的文句」。
技術分享圖片
根據英國媒體《衛報》(The Guardian)公布的一段測試影片,編輯輸入一句關於英國脫歐的不完整句子,GPT2即可立刻產生一段完整段落。另外,若餵給它喬治奧韋爾的《1984》小說裏的第一句「It was a bright cold day in April, and the clocks were striking thirteen」,它立刻辨識出文字的未來科幻小說風格,而能接續相應的故事。該報認為GPT2產生的句子,幾乎未顯露過去AI系統前後語意不一致或語法錯誤的問題。雖然也有人指出GPT2只是從網絡上抓來文字拼湊而成還算有條理的文字,但是許多人認為,GPT2已經顯示AI仿真能力的成熟技術,擔心這個AI系統會被拿來制造一般人無法辨識的假新聞,並稱之為「文字版的deepfake」。Deepfake是專指利用AI將名人嘴形、臉部與×××或他人影片移花接木,以遂惡作劇或栽贓嫁禍的目的的影片。內容來源至:樂愛公益 http://www.cafes.org.tw/info.asp

OpenAI隨後表示,由於考慮這項技術可能遭惡意使用,像是生產誤導性的文字、冒充他人的網絡身份、或是在社群網站散布假新聞、自動生產垃圾及釣魚內容等,OpenAI將不會釋出訓練好的模型,但秉持負責任揭露的原則,他們將釋出相對小許多的模型、範例和技術白皮書提供外部研究人員實驗之用。但也有人批評OpenAI將研究隱藏不完全公開的做法,與其組織名稱意義背道而馳。馬斯克本人倒是對此撇清關系,他在推持上表示他已經一年多未涉入OpenAI的運作,也沒有行政管理或董事會監督的身份。AI技術進步已經反映在寫新聞、作畫、翻譯及說話等創作領域上,引發倫理和道德的爭議。去年網絡大廠在I/O大會上展示擬真人聲系統Duplex以超逼真的聲音打電話訂位招致批評,迫使網絡大廠宣布未來測試時,將主動表明是機器人的身份。

AI文字產生技術引爭議!Open AI公開部份技術