#每日5分鐘快速添補ai知識與技能
深度學習創造出各種模型,
但會納悶DNN、CNN、RNN這幾個網路有何不同?
作用、差別為何、彼此之間的關係?
⠀⠀
大部分神經網路,可以用深度和連接結構來定義
也可分為有監督、無監督、半監督學習的神經網路
⠀⠀
將介紹4種類型神經網路
1、類神經網路ANN 和 深度神經網路DNN
2、循環神經網路RNN 和 遞歸神經網路RNN
3、卷積神經網路CNN
4、生成式對抗網路GAN
⠀⠀
觀看全文👇
https://blog.tibame.com/?p=19032
⠀⠀
#AI60問 #深度學習 #人工智慧 #神經網路
【AI/資料科學不可不知的60道問題】
每週4篇AI新知識,一次只要5分鐘,
具備AI跨域知識,為職場技能加分💪
#TibaMe #緯育TibaMe #知識 #學習 #科技
rnn 監督式 在 台灣物聯網實驗室 IOT Labs Facebook 的精選貼文
工程師也失業?「會寫 AI 的 AI」效率超越人類,Google、MIT 相繼投入開發
認圖片 、 辨聲音 、 下圍棋 、玩 德州撲克 、 開卡車 ⋯⋯似乎越來越多人能玩的事情 AI 也能玩,而且玩得比人還溜。但暫時有一部分人還是自我感覺安全的——工程師的工作 AI 還是很難勝任的對吧?畢竟這個東西需要邏輯思考,需要框架和流程設計,哪裡是 AI 能一下子勝任的事情。但 Google 等公司認為,AI 現在可以開始學習一些 AI 專家做的事情了,那就是寫 AI 程式。
Google Brain 人工智能研究小組的研究人員最近就進行了這樣的嘗試。他們在一次試驗中讓軟件設計了一套機器學習系統,然後對這套系統進行測試語言處理方面的測試。結果發現該系統的表現超過了人類設計的軟件。
Google Brain 團隊首先用遞歸神經網絡生成神經網絡(RNN)的描述,然後利用強化學習對該 RNN 進行訓練。其方法可以讓 AI 從零開始設計出一個新穎的神經網絡架構,在利用 CIFAR-10 數據集(含 6 萬張 32×32 的彩圖,涉及 10 類對象,每一類各 6000 張。其中 5 萬張為訓練圖像,1 萬張為測試圖像)進行圖像辨識測試時,其辨識的精度甚至比人類設計的最好架構還要高,錯誤率僅為 3.84%,與目前最先進的神經網絡模型相比,其錯誤率僅低 0.1 個百分點,但速度快了 1.2 倍。而在用於自然語言處理的 Penn Treebank 數據集上,其模型構造出來的一種遞歸神經單元也超越了被廣泛使用的 LSTM 神經單元等最新基準指標,在複雜度方面比後者好 3.6 倍。
類似地,Google 的另一個 AI 團隊 DeepMind 最近也發表了一篇名為《學會強化學習》的論文。其研究同樣針對的是深度學習所需的訓練數據量大且獲取成本高的缺點。他們提出了一種名為 deep meta-reinforcement learning 的強化學習方法,利用遞歸神經網絡可在完全有監督的背景下支持元學習的特點,把它應用到了強化學習上面。從而將用一個強化學習算法訓練出來的神經網絡部署到任意環境上,使得 AI 在訓練數據量很少的情況下具備了應用於多種場景的元學習能力。或者用 DeepMind 團隊的話來說,叫做「學會學習」的能力,或者叫做能解決類似相關問題的歸納能力。
Google Brain 團隊的負責人 Jeff Dean 最近在回顧 AI 進展情況時,就曾經表態說機器學習專家的部分工作其實應該由軟件來負責。他把這種技術叫做「自動化機器學習」,並認為這是最有前途的 AI 研究方向之一,因為這將大大降低 AI 應用的門檻。
當然,創建學會學習的軟件這個想法由來已久,蒙特婁大學的 Yoshua Bengio 早在 1990 年代就提出了這個想法。但之前的試驗結果並不理想,因為 AI 做出來的東西還是比不上人類想出來的模型。但近年來隨着運算能力的不斷增強,以及深度學習的出現,AI 學會學習的能力終於取得了突破。
儘管 AI 的自學能力取得了突破,但是在近期內還無法大量推廣。因為首先這種能力需要龐大的計算資源。比方說 Google Brain 那個設計出辨識率超過人類所開發系統的圖像辨識系統的 AI ,就需要 800 個 GPU。
但這種情況將來可能會發生變化。最近 MIT Media Lab 也開發出了設計深度學習系統的學習軟件,其所開發出來的深度學習系統的對象辨識率也超過了人類設計的系統。MIT Media Lab 計劃將來把它的這套 AI 開源出來,讓大家繼續這方面的探索。
除了 Google 和 MIT 以外,據報導最近幾個月有好幾個小組也在讓 AI 軟件學習編寫 AI 軟件方面取得了進展。其中包括了非盈利的 AI 研究組織 OpenAI、MIT、加州大學柏克萊分校等。
一旦這類自動式的 AI 技術具備實用性,機器學習軟件在各行業應用的節奏無疑將大大加快。因為目前機器學習專家極為短缺,各家企業組織都需要高薪供養這批人才。
資料來源:http://www.hksilicon.com/articles/1260743