Google展示AI新實力:讓神經網絡設計神經網絡(2)
谷歌大腦高級研究員Jeff Deam本周表示,谷歌仍在使用CPU和GPU去訓練機器學習模型。不過他預計,未來谷歌將越來越多地使用TPU。

與此同時,谷歌還發布了“TensorFlow研究云”。這是由1000顆云TPU組成的簇,在滿足某些條件的情況下谷歌將免費提供給研究者使用。如果希望使用,那么研究者必須同意公開發表研究成果,或許還需要開源研究中的相關代碼。
谷歌推出TensorFlow研究云的目的是加速機器學習的研究進展,并計劃將其分享給哈佛醫學院等學術機構。
對參與非公開研究的人士,谷歌計劃啟動云TPU Alpha項目。
TensorFlow Lite
在I/O上談到Android的未來時,谷歌工程副總裁宣布,他們將推出一個專門為移動設備而優化的TensorFlow版本,稱為TensorFlow lite。
用這個新框架,開發者可以創造更簡潔的深度學習模型,讓它們運行在Android智能手機上。不過,深度學習的訓練過程還是需要在云端完成。
谷歌打算今年晚些時候推出TensorFlow lite API并開源。
Facebook今年F8開發者大會發布的Caffe2,和去年推出的Caffe2Go,也是這個思路。
讓AI設計AI
谷歌想讓AI變得更加“平易近人”,簡化神經網絡模型的建造過程是個好辦法。
CEO劈柴哥在官方博客上說,現在,設計神經網絡非常耗時,對專業能力要求又高,只有一小撮科學家和工程師能做。為此,谷歌創造了一種新方法:AutoML,讓神經網絡去設計神經網絡。
谷歌希望能借AutoML來促進深度學習開發者規模的擴張,讓設計神經網絡的人,從供不應求的PhD,變成成千上萬的普通工程師。
手動設計神經網絡的難點在于,所有可能的模型都有著巨大的搜索空間,一個典型的10層神經網絡,變化形式高達約1010種。

△ 谷歌耗費數年探索出的GoogleNet網絡架構
在AutoML中,一個主控的神經網絡可以提出一個“子”模型架構,并用特定的任務來訓練這個子模型,評估它的性能,然后,主控收到反饋,并根據反饋來改進下一個提出的子模型。

這個過程,簡單來說就是:生成新架構-測試-提供反饋供主控網絡學習。在重復上千次后,主控網絡學會了哪些架構能夠在已知驗證集上得到更高的準確率。
谷歌用了兩個經常作為基準的數據集來測試他們的模型,一個是圖像識別領域的CIFAR-10,另一個是語言處理領域的Penn Treebank。在兩個數據集上,自動設計的神經網絡準確率都能與頂尖人類專家設計的網絡媲美。

△ 兩個用于在Penn Treebank上預測下一個詞的神經網絡:左圖出自人類專家之手,右圖由算法自動設計
要深入了解自動搭建神經網絡的算法,可以看看谷歌今年的兩篇會議論文:
進化算法:
Large-Scale Evolution of Image Classifiers
https://arxiv.org/abs/1703.01041
Esteban Real, Sherry Moore, Andrew Selle, Saurabh Saxena, Yutaka Leon Suematsu, Quoc Le, Alex Kurakin. International Conference on Machine Learning, 2017.
強化算法:
Neural Architecture Search with Reinforcement Learning
https://arxiv.org/abs/1611.01578
Barret Zoph, Quoc V. Le. International Conference on Learning Representations, 2017.
其他
這次I/O大會還有很多其他有意思的看點,這里精選一些。
各種數字

月活安卓設備已達20億部,還有5億活躍的Google相冊用戶,每天產生12億張照片或者視頻。Google地圖每日導航超過10億公里。Google Drive云存儲擁有8億用戶。人們每天觀看10億小時YouTube視頻。
Lens

?????投稿郵箱:jiujiukejiwang@163.com ??詳情訪問99科技網:http://www.hacbq.cn
Adobe新推AI神器Project Slide Wow,數據秒變PPT,展示
Adobe公司近期揭曉了一項創新成果——Project Slide Wow,一款專為商務人士設計的
快資訊2025-03-21
GAMDIAS新風冷來襲:BOREAS M2-61L配4.3寸IPS LCD屏,散
近期,知名機電散熱外設制造商GAMDIAS推出了一款名為BOREAS M2-61L的創新風冷散熱
快資訊2025-03-19
推薦資訊





















