红足一世开奖记录-玩九五至尊有输钱的吗

日期:2019-08-13 20:26:40   来源:捕鱼棋牌电玩城   编辑:小狐   阅读人数:369

大数据文摘出品

编译:张大笔茹、胡笳、李雷、钱天培

深度学习是人工智能模型的先驱。从图像识别、语音识别,到文字理解,甚至自动驾驶,深度学习的来临极大地丰富了我们对AI潜力的想象。

那么,深度学习为何如此成功呢?

主流思想认为,一个重要的原因是,深度学习成功的原因是不依靠人类直觉来构建或表示数据的特征(视觉,文本,音频......)而是建立一个神经网络架构来自发学习这些特征。

关键词是特征。从特征工程,到特征搜索,到特征学习—每一阶段的进步都能带来巨大的性能提升。

既然“特征”上大有文章可做,那么“网络结构”是否也可以借鉴同样的经验呢?

没错,也可以!

这个新颖的观点已经得到了Allen Institute for AI最新研究的支持。他们的最新研究表明,计算机学习来的神经网络架构可以比人类设计的更好。

在训练期间,他们的网络的可以灵活改变网络架构—它既学习网络参数,也学习结构本身。所学习的架构具有高度稀疏的特性,因此就运算运算而言,它将是一个小得多却可以实现高精度的模型。

在高效稀疏计算硬件大力发展的环境下,这可能是深度学习模型下一演变阶段的重要触发因素。

在了解他们的最新成果前,让我们先回顾一下,从二十年前到开始进入深度学习时代AI模型在计算机视觉技术领域的关键发展阶段。同样的趋势在其他深度学习领域也有类似体现。

计算机视觉三个发展阶段

特征工程阶段

尝试人工找到图像中承载图像语义的高维向量。成功的例子有:SIFT,HOG,ShapeContext,RBF和Intersection Kernel。这些特征和函数是基于对人类视觉识别过程的模拟。这是当时计算机视觉技术背后的基础科学。经过了几年的直觉驱动研究,计算机视觉技术科学家并未能新的功能,这使得该领域进入了第二阶段。

深度学习下一阶段:神经架构自学习,带来最优计算机视觉模型(图1)

在深度学习出现之前,特征工程是计算机视觉的基础科学

特征搜索阶段

又叫自动搜索过程,通过组合不同的可能特征或核函数来提高特定应用程序的准确性(例如,对象分类)一些成功方法的包括:Feature selection methods 以及 Multiple Kernel Models。这些过程虽然计算量大,但却能提高计算机视觉模型的准确性。另一个主要局限是搜索空间的构建块(特征函数)是基于人类对视觉识别的直觉手动设计的。但有一些研究表明,人类可能无法准确说出自己是如何区分对象类别的。

例如,你能说明自己如何区分狗与猫的照片吗?你选择的任何特征(例如耳朵上的清晰度,或眼睛中的形状和颜色)都是猫和狗共有的,但是看照片却能立即说出它是狗或猫。这使得一些科学家放弃用传统的自下而上的模式设计特征驱动的计算机视觉模型,转向让计算机自己设计特征识别的阶段。

深度学习下一阶段:神经架构自学习,带来最优计算机视觉模型(图2)

特征组合和多核模型(图片来自Kavak等人ISACS2013)

特征学习阶段

这是自动从高维向量空间确定视觉特征的阶段,该过程通过释义图像的内容来使计算机执行特定任务,例如对象分类。深度卷积神经网络架构(CNN)的发展使这种能力成为可能。由于在设计特征的过程中没有人为干预,这种算法也被称为端到端模型。实际上,由于该过程是高度计算密集型并且需要大量数据来训练底层神经网络,人类几乎无法解释其构造的特征。随着并行处理器硬件(例如GPU和TPU)的进步以及大规模数据集的可用性使其成为可能并取得成功。

深度学习下一阶段:神经架构自学习,带来最优计算机视觉模型(图3)

通过深度神经网络的特征学习

太赞了!深度学习好像能独立工作了。既然如此,那么计算机视觉科学家在其中需要扮演什么角色呢?

展望未来

想象一下,如果我们用“架构”来取代“特征”这个词,结合上述三个阶段,大概可以说明深度学习今后的发展趋势。

架构工程

这促使科学家设计可以运行在边缘设备上的更高效的AI模型。一些成功的模型包括:Xnor-net,Mobilenet和Shufflenet。类似于“特征工程”阶段,几年后,江郎才尽的研究人员转向了“搜索”阶段。

深度学习下一阶段:神经架构自学习,带来最优计算机视觉模型(图4)

深度学习出现后,计算机视觉背后的基础科学变为网络架构设计(图片来自Joseph Cohen)

架构搜索

综上所述,显然深度学习的下一阶段是让计算机自己设计架构。

深度学习下一阶段:神经架构自学习,带来最优计算机视觉模型(图5)

搜索CNN不同构建块的组合以构建更好的CNN模型

架构学习阶段

最近我们在Xnor.ai和Allen Institute for AI建立了一个名为Discovering Neural Wirings的新模型,用于直接从数据中自动学习神经网络架构。在该模型中,我们将神经网络设置为无约束图并且放宽层的概念,使节点(例如图像的通道)能够彼此形成独立的连接。这会使得可能的网络空间会更大。在训练期间,该网络的搭建不固定—它既学习网络参数,也学习结构本身。网络结构可以包含图中的循环,即形成了存储器结构的概念。所学习的架构具有高度稀疏的特性,因此就算术运算而言它将是一个小得多却可以实现高精度的模型。

代码:

当然,类似于“特征学习”阶段,这个深度学习阶段需要在训练中进行大量的计算以处理大图并且需要大量的数据。我们坚信,随着专门用于稀疏图形计算的硬件的发展,自动发现最佳网络架构技术会越来越成熟,实现高度精确、高效计算的边缘AI模型指日可待。

深度学习下一阶段:神经架构自学习,带来最优计算机视觉模型(图6)

神经架构学习的过程:从数据中发现完整神经图中神经元之间的最小连接

本文相关词条概念解析:

学习

学习,是指通过阅读、听讲、思考、研究、实践等途径获得知识或技能的过程。学习分为狭义与广义两种:狭义:通过阅读、听讲、研究、观察、理解、探索、实验、实践等手段获得知识或技能的过程,是一种使个体可以得到持续变化(知识和技能,方法与过程,情感与价值的改善和升华)的行为方式。广义:是人在生活过程中,通过获得经验而产生的行为或行为潜能的相对持久的行为方式。

网友评论
kris吴
传统的观点是,随着时间推移学习率要越来越低,而且有许多方法进行设置
2019-08-20 21:31 540
paul_2
学习与实施,根据TMS知识体系,建立企业的相应管理流程与实施方案,落地执行,推动实施
2019-08-17 16:13 382
骑白马的八
ai提供了学习率搜索器的实现方式
2019-08-21 22:05 923
相关阅读
一份手机排行榜单送给你呕心力作千百部手机挑出的超高现价比手机

一份手机排行榜单送给你呕心力作千百部手机挑出的超高现价比手机

海信A6夜光水墨屏的分辨率达到了287 PPI,可以说是视网

在家就能自己做茶叶蛋,选好茶叶,味道不比外面的差

在家就能自己做茶叶蛋,选好茶叶,味道不比外面的差

说到茶叶蛋,很多人都不会陌生,这是从台湾传过来的一道美食,在

今年流行这样的夏装,既显瘦又有气质,让你美得倾国倾城

今年流行这样的夏装,既显瘦又有气质,让你美得倾国倾城

一到这个时节,爱美的姐妹们又开始纠结了吧?纠结什么呢,当时是

傲慢与偏见现实版?中国手机占领了全世界,却占领不了这个小国家

傲慢与偏见现实版?中国手机占领了全世界,却占领不了这个小国家

说起中国智能手机的强大,相信网友们都可以拿出众多的数据来证明

事必躬亲存疑【灯下漫笔】

事必躬亲存疑【灯下漫笔】

这些年,领导事必躬亲的事迹不少。有亲自抓水的,亲自抓电的,亲

64岁赵雅芝再现上海滩,妆容精致毫无皱纹,戴墨镜拎木箱造型复古

64岁赵雅芝再现上海滩,妆容精致毫无皱纹,戴墨镜拎木箱造型复古

这身长裙设计感十足,一边是层次感十足的布料设计,一边是蕾丝镂

取消流量不限量后, 联通再出4G套餐新规, 用户大呼伤不起

取消流量不限量后, 联通再出4G套餐新规, 用户大呼伤不起

在三大商中,中国联通是发展最慢的一个,在2016年的时候,中

不同风格的洋气穿搭,让你每天穿搭不重样

不同风格的洋气穿搭,让你每天穿搭不重样

每天起床第一问,今天穿什么?是当代女性都会遇到的难题望着满柜

这素菜是儿子的最爱, 和鸡蛋是绝配, 鲜甜还补钙, 儿子每回都光盘

这素菜是儿子的最爱, 和鸡蛋是绝配, 鲜甜还补钙, 儿子每回都光盘

鸡蛋是我们家常必备的食材之一,鸡蛋的用途还真不少,平时腌肉时

美好乡村的广场舞(原创)

美好乡村的广场舞(原创)

夏天的下午六点钟其实还很亮堂,老伴和儿子都没回家,方梅早已吃