研究 duplex mark mage 技術 科幻小說 測試 分享圖片 完整

由科技巨子馬斯克（Elon Musk）支持的非營利組織Open AI，近期公布的AI文字產生器GPT2，由於可產生幾近真人撰寫的假新聞，引發極大爭議，OpenAI決定不釋出訓練好的模型，只公開一小部份模型和範例。GPT2以近40 gigabyte的網頁文字訓練而成，旨在使其具備預測下一個文字的能力。研究團隊宣稱GPT2產生的文字可因應前後文的風格和內容，使用者只要餵給它一段文字，這個AI系統就能產生任意主題「逼真而有條理的文句」。

根據英國媒體《衛報》（The Guardian）公布的一段測試影片，編輯輸入一句關於英國脫歐的不完整句子，GPT2即可立刻產生一段完整段落。另外，若餵給它喬治奧韋爾的《1984》小說裏的第一句「It was a bright cold day in April, and the clocks were striking thirteen」，它立刻辨識出文字的未來科幻小說風格，而能接續相應的故事。該報認為GPT2產生的句子，幾乎未顯露過去AI系統前後語意不一致或語法錯誤的問題。雖然也有人指出GPT2只是從網絡上抓來文字拼湊而成還算有條理的文字，但是許多人認為，GPT2已經顯示AI仿真能力的成熟技術，擔心這個AI系統會被拿來制造一般人無法辨識的假新聞，並稱之為「文字版的deepfake」。Deepfake是專指利用AI將名人嘴形、臉部與×××或他人影片移花接木，以遂惡作劇或栽贓嫁禍的目的的影片。內容來源至：樂愛公益 http://www.cafes.org.tw/info.asp

OpenAI隨後表示，由於考慮這項技術可能遭惡意使用，像是生產誤導性的文字、冒充他人的網絡身份、或是在社群網站散布假新聞、自動生產垃圾及釣魚內容等，OpenAI將不會釋出訓練好的模型，但秉持負責任揭露的原則，他們將釋出相對小許多的模型、範例和技術白皮書提供外部研究人員實驗之用。但也有人批評OpenAI將研究隱藏不完全公開的做法，與其組織名稱意義背道而馳。馬斯克本人倒是對此撇清關系，他在推持上表示他已經一年多未涉入OpenAI的運作，也沒有行政管理或董事會監督的身份。AI技術進步已經反映在寫新聞、作畫、翻譯及說話等創作領域上，引發倫理和道德的爭議。去年網絡大廠在I/O大會上展示擬真人聲系統Duplex以超逼真的聲音打電話訂位招致批評，迫使網絡大廠宣布未來測試時，將主動表明是機器人的身份。

AI文字產生技術引爭議!Open AI公開部份技術