24.8 C
Taipei
星期四, 5 5 月, 2022
Home科技新聞AI人工智慧人工智慧閱讀能力直逼高中生!DeepMind推新AI語言模型Gopher

人工智慧閱讀能力直逼高中生!DeepMind推新AI語言模型Gopher

人工智慧語言模型百家爭鳴的時代

如何使人工智慧得以發展出如同人腦般具備邏輯、意識和推理等認知能力,是人工智慧領域中不斷探索、反思的趨勢。有鑑於此,各家人工智慧公司埋首研究,不斷推陳出新創造出不同的人工智慧語言模型。

繼非營利人工智慧研究組織 OpenAI 推出的 GPT-3 語言模型之後,Google 旗下曾開發出人工智慧棋手 AlphaGO、AlphaZero 及 MuZero 的人工智慧公司 DeepMind,在 2021 年底發佈了名為 Gopher 的新一代人工智能語言模型。(相關文章:終極版 AlphaGo!DeepMind 最新人工智慧「MuZero」能下棋、玩遊戲、壓縮影片人工智慧快毀了西洋棋比賽?前西洋棋冠軍聯手AlphaZero AI改寫西洋棋

更聰明、更有人性的人工智慧語言模型 Gopher

DeepMind新推人工智慧語言模型Gopher在許多領域都勝過GPT-3
由以上長條圖由左至右可以看出,DeepMind 新推的人工智慧語言模型「Gopher」,分別在人性、社會科學和醫療、常識、科學與科技以及數學等領域的表現都優於 GPT-3。(長條圖說明:紫色為 GPT-3、藍色為 Gopher、灰色為人類專家、淺藍色為 UnifiedQA

DeepMind 研究人員主張 Gopher 具有接近人類高中生的閱讀理解能力,基於 Gopher 擁有的 2800 億個衡量規模與複雜性的標準參數,研究人員宣稱 Gopher 在大型多工語言理解(MMLU)的人性、社會科學和醫療等領域的表現優於現有的語言模型,更勝於擁有 1750 億個參數的 OpenAI GPT-3。(相關文章:12萬字名著,人工智慧用200字就說完!AI療癒作家GPT-3解鎖新功能

語言模型是在接收、學習詞彙及大量的數據資料後,能夠預估詞彙並生成為文本的人工智慧系統。DeepMind 相信,開發更強大的語言模型具有構建先進 AI 系統的巨大潛力,在研究了大大小小不同語言模型的優劣後,發現語言模型的參數愈多愈能夠有效提高模型性能,於是將最大一組模型命名為 Gopher。

Gopher 的侷限與未來發展

Gopher 在閱讀理解、事實查核和辨別惡意言論等領域具有接近高中生的水準,得益於其龐大的參數數據庫。然而,龐大的數據庫亦有負面影響:

研究人員在與 Gopher 對話中發現,Gopher 在閱讀大量擁有刻板印象、偏見、錯誤訊息等文章之後,亦向負面的思想靠攏,若放任 Gopher 自然傳播,將造成社會道德與倫理的風險。除此之外,Gopher 的數學和推理能力也有待提升。

DeepMind 發表的語言模型相關論文中,針對 Gopher 的道德風險提出了數種工具(如 Retrieval-Enhanced Transformer)和研究方法來維持 Gopher 的政治正確。這些研究雖然都還處於初期階段,但也確實為人工智慧語言模型領域奠定了基礎,在找出潛在風險與應對措施的同時,更進一步掌握語言模型的未來發展方向。

最新文章

熱門文章