当前在线人数12744
首页 - 分类讨论区 - 电脑网络 - 葵花宝典版 - 同主题阅读文章

此篇文章共收到打赏
0

  • 10
  • 20
  • 50
  • 100
您目前伪币余额:0
未名交友
[更多]
[更多]
最近视觉领域的self supervised learning进展不少
[版面:葵花宝典][首篇作者:Caravel] , 2020年01月09日13:48:34 ,1703次阅读,33次回复
来APP回复,赚取更多伪币 关注本站公众号:
[首页] [上页][下页][末页] [分页:1 2 ]
Caravel
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 1 ]

发信人: Caravel (克拉维尔), 信区: Programming
标  题: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Thu Jan  9 13:48:34 2020, 美东)

self supervised learning指的是不依靠外部的label,依靠data之间内在的联系来
train。

https://arxiv.org/pdf/1803.07728.pdf
这篇文章的idea很简单,就是把图像转0, 90,180,270,然后train一个model to
predict旋转的角度。用这个task train一个feature extraction network。 为了准确
predict角度,这个model自动就学会了像supervise learning类似的feature。 作者用
生成的feature继续train 一个classifier可以获得和监督学习相当的STOA的结果。

还有一个最近的文章
https://sites.google.com/view/space-project-page
通过看video可以学习object-oriented的表象。
--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 2600:1010:b044:]

 
blueconifer
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 2 ]

发信人: blueconifer (蓝杉), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Thu Jan  9 17:11:04 2020, 美东)

就是结合了传统视觉特征提取里的思路

【 在 Caravel (克拉维尔) 的大作中提到: 】
: self supervised learning指的是不依靠外部的label,依靠data之间内在的联系来
: train。
: https://arxiv.org/pdf/1803.07728.pdf
: 这篇文章的idea很简单,就是把图像转0, 90,180,270,然后train一个model to
: predict旋转的角度。用这个task train一个feature extraction network。 为了准确
: predict角度,这个model自动就学会了像supervise learning类似的feature。 作者用
: 生成的feature继续train 一个classifier可以获得和监督学习相当的STOA的结果。
: 还有一个最近的文章
: https://sites.google.com/view/space-project-page
: 通过看video可以学习object-oriented的表象。



--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 72.]

 
Caravel
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 3 ]

发信人: Caravel (克拉维尔), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Thu Jan  9 17:13:40 2020, 美东)

很多昆虫蜻蜓都有视觉,那么点神经物质,视觉应该不会那么难吧?

【 在 blueconifer (蓝杉) 的大作中提到: 】
: 就是结合了传统视觉特征提取里的思路



--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 2600:1010:b044:]

 
xiaoju
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 4 ]

发信人: xiaoju (可爱的龙猫), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Thu Jan  9 19:29:29 2020, 美东)

这个思路很好啊!

严格的说不是算法的改进,是训练方法的改进

人类拍摄的照片的默认角度是由主体的方向和位置的,用旋转角度做label可以充分利
用无标签的照片

【 在 Caravel (克拉维尔) 的大作中提到: 】
: self supervised learning指的是不依靠外部的label,依靠data之间内在的联系来
: train。
: https://arxiv.org/pdf/1803.07728.pdf
: 这篇文章的idea很简单,就是把图像转0, 90,180,270,然后train一个model to
: predict旋转的角度。用这个task train一个feature extraction network。 为了准确
: predict角度,这个model自动就学会了像supervise learning类似的feature。 作者用
: 生成的feature继续train 一个classifier可以获得和监督学习相当的STOA的结果。
: 还有一个最近的文章
: https://sites.google.com/view/space-project-page
: 通过看video可以学习object-oriented的表象。
: ...................


--

※ 来源:·BBS 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 27.]

 
xiaoju
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 5 ]

发信人: xiaoju (可爱的龙猫), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Thu Jan  9 19:31:56 2020, 美东)

最牛逼的地方是,昆虫的视觉和脊椎动物的视觉虽然类似,但二者的共同祖先却是在视
觉出现之前的

生物视觉实际上是一套算法而已,即使是外星小绿人也大概率有类似结构

【 在 Caravel (克拉维尔) 的大作中提到: 】
: 标  题: Re: 最近视觉领域的self supervised learning进展不少
: 发信站: BBS 未名空间站 (Thu Jan  9 17:13:40 2020, 美东)
:
: 很多昆虫蜻蜓都有视觉,那么点神经物质,视觉应该不会那么难吧?
:
: 【 在 blueconifer (蓝杉) 的大作中提到: 】
: : 就是结合了传统视觉特征提取里的思路
:
:
:
: --
: ※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 2600:1010:b044:]



--

※ 来源:·BBS 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 27.]

 
wdong
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 6 ]

发信人: wdong (万事休), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Thu Jan  9 21:31:54 2020, 美东)

同意。

【 在 xiaoju (可爱的龙猫) 的大作中提到: 】
: 这个思路很好啊!
: 严格的说不是算法的改进,是训练方法的改进
: 人类拍摄的照片的默认角度是由主体的方向和位置的,用旋转角度做label可以充分利
: 用无标签的照片



--

※ 来源:·BBS 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 108.]

 
blueconifer
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 7 ]

发信人: blueconifer (蓝杉), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 01:28:45 2020, 美东)

昆虫蜻蜓是单片机,反应比人快,但是非常怀疑一个生命周期里有学习功能。

【 在 Caravel (克拉维尔) 的大作中提到: 】
: 很多昆虫蜻蜓都有视觉,那么点神经物质,视觉应该不会那么难吧?



--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 72.]

 
Caravel
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 8 ]

发信人: Caravel (克拉维尔), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 01:30:29 2020, 美东)

这个idea不难想到,这篇文章最大的贡献是调出来了参数,使用了一些最近才出现的技
术,比如attention机制。

【 在 xiaoju (可爱的龙猫) 的大作中提到: 】
: 这个思路很好啊!
: 严格的说不是算法的改进,是训练方法的改进
: 人类拍摄的照片的默认角度是由主体的方向和位置的,用旋转角度做label可以充分利
: 用无标签的照片



--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 73.]

 
Caravel
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 9 ]

发信人: Caravel (克拉维尔), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 01:33:59 2020, 美东)

10年之内能参悟出机器视觉的真谛么,话说神经科学太不给力,为啥连最简单的生物的
神经网络机制都搞不明白。
【 在 xiaoju (可爱的龙猫) 的大作中提到: 】
: 最牛逼的地方是,昆虫的视觉和脊椎动物的视觉虽然类似,但二者的共同祖先却是在视
: 觉出现之前的
: 生物视觉实际上是一套算法而已,即使是外星小绿人也大概率有类似结构



--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 73.]

 
guvest
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 10 ]

发信人: guvest (我爱你老婆Anna), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 03:42:52 2020, 美东)

你们难道没有注意到,照相机和人视觉系统是根本不同的吗?人看东西的时候,脖子会
动的,眼球也会动,还会自动调整焦距。你看看运动员怎么用视觉的。

照片那种图片的产生过程多数都是固定角度来产生的。所以认知过程的很多维度,是从
照片那种图片无法推演的。
此其一。
其二,照相机的设计反映了认识主体和客体的二分。这个设计是旧的西方理念的产物。
感受,加上作用其上的先天范畴,带来经验和知识什么的。这是康德总结的。他把感受
单独分割出去。这连运动员对视觉的使用都解释不了的。

但是设计一套机器,带给用户另外的像素到知识的close loop,完全是可行的。这种设
计,本身也是对新认识论的探索。我不敢说这种loop会导致新的知识。但是导致新的经
验应该是可以的。

我有实证,具体设计不详细说。思路就是认为人看东西是信号接收和主动的探索的生成
变化。不是康德所说,感受-人的先天范畴的应用-经验认识 这样一个分而治之的过程
。分而治之是解决问题的好办法。不等于问题本身就是三个部分。






【 在 Caravel(克拉维尔) 的大作中提到: 】
<br>: 这个idea不难想到,这篇文章最大的贡献是调出来了参数,使用了一些最
近才出
现的技
<br>: 术,比如attention机制。
<br>


--
※ 修改:·guvest 於 Jan 10 03:49:35 2020 修改本文·[FROM: 76.]
※ 来源:· 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 76.]

 
xiaoju
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 11 ]

发信人: xiaoju (可爱的龙猫), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 07:06:40 2020, 美东)

机制能搞明白,权值不知道啊

【 在 Caravel (克拉维尔) 的大作中提到: 】
: 10年之内能参悟出机器视觉的真谛么,话说神经科学太不给力,为啥连最简单的生物的
: 神经网络机制都搞不明白。



--

※ 来源:·BBS 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 27.]

 
xiaoju
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 12 ]

发信人: xiaoju (可爱的龙猫), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 07:50:33 2020, 美东)

我觉得attention之类都是trick,将来很有可能换成更与时俱进的

这篇文章是在训练方法很有创新的,现在一般研究都集中在模型本身和优化手段上,但
个世界未必所有问题都可以通过模型加训练集搞定

【 在 Caravel (克拉维尔) 的大作中提到: 】
: 这个idea不难想到,这篇文章最大的贡献是调出来了参数,使用了一些最近才出现的技
: 术,比如attention机制。



--

※ 修改:·xiaoju 于 Jan 10 07:50:51 2020 修改本文·[FROM: 27.]
※ 来源:·BBS 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 27.]

 
chebyshev
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 13 ]

发信人: chebyshev (......), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 10:59:22 2020, 美东)

semi learning都用无label数据的。
甲骨文一点点翻译出来其实就是这个过程。先开始只有几个明显的字认识。
早先我把knn找了个办法改一改数据。问wdong有没人这样干过。
是wdong告诉我semi supervised learning这个术语。
我一查最早的semi learning之一还是语言学家发明的。
【 在 xiaoju (可爱的龙猫) 的大作中提到: 】
: 我觉得attention之类都是trick,将来很有可能换成更与时俱进的
: 这篇文章是在训练方法很有创新的,现在一般研究都集中在模型本身和优化手段上,但
: 个世界未必所有问题都可以通过模型加训练集搞定




--
※ 修改:·chebyshev 於 Jan 10 11:01:51 2020 修改本文·[FROM: 38.]
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 38.]

 
Caravel
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 14 ]

发信人: Caravel (克拉维尔), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 12:33:47 2020, 美东)

能调出参才是王道,这些技术层面的东西也很重要,否则光开脑洞没用

【 在 xiaoju (可爱的龙猫) 的大作中提到: 】
: 我觉得attention之类都是trick,将来很有可能换成更与时俱进的
: 这篇文章是在训练方法很有创新的,现在一般研究都集中在模型本身和优化手段上,但
: 个世界未必所有问题都可以通过模型加训练集搞定



--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 73.]

 
goodtudou
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 15 ]

发信人: goodtudou (goodtudou), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 13:31:21 2020, 美东)

值得读一下吗

实用性可有?
最后一个作者是个大牛。以前搞什么马尔可夫场的好像是

【 在 Caravel (克拉维尔) 的大作中提到: 】
: self supervised learning指的是不依靠外部的label,依靠data之间内在的联系来
: train。
: https://arxiv.org/pdf/1803.07728.pdf
: 这篇文章的idea很简单,就是把图像转0, 90,180,270,然后train一个model to
: predict旋转的角度。用这个task train一个feature extraction network。 为了准确
: predict角度,这个model自动就学会了像supervise learning类似的feature。 作者用
: 生成的feature继续train 一个classifier可以获得和监督学习相当的STOA的结果。
: 还有一个最近的文章
: https://sites.google.com/view/space-project-page
: 通过看video可以学习object-oriented的表象。




--
☆ 发自 iPhone 买买提 1.24.11
--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 64.]

 
guvest
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 16 ]

发信人: guvest (我爱你老婆Anna), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 16:14:34 2020, 美东)

我也想问。其实我都没看懂他怎么把无监督预测,嫁接到classfier的。

假设每个img有4个像素,abcd. 训练集合
200个图。其中10个有label。label是0,1两类。

再假设完成了一个预测旋转角度的预测器。
对任意(a,b,c,d)四像素,可以输出一个角度。
[这是文章的主要成果]

但是,然后步骤是什么?怎么对一个测试图,分出来0,1两类。这步我不明白。

【 在 goodtudou(goodtudou) 的大作中提到: 】
<br>: 值得读一下吗
<br>: 实用性可有?
<br>: 最后一个作者是个大牛。以前搞什么马尔可夫场的好像是
<br>


--
※ 修改:·guvest 於 Jan 10 16:24:52 2020 修改本文·[FROM: 76.]
※ 来源:· 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 38.]

 
Caravel
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 17 ]

发信人: Caravel (克拉维尔), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 16:24:01 2020, 美东)

有150多次引用,应该还是比较solid的把。 文中没有细说,但是他有code,嫁接是
transfer learning很standard的技巧,就是把无监督的网络中间一些或全部layer的结
果拿出来,把weight lock住,然后再接上少量几层classifier,再用labeled data
train一下。

我把open review的链接也找出来了
https://openreview.net/forum?id=S1v4N2l0-

【 在 guvest (我爱你老婆Anna) 的大作中提到: 】
: 我也想问。其实我都没看懂他怎么把无监督预测,嫁接到classfier的。
: <br>: 值得读一下吗
: <br>: 实用性可有?
: <br>: 最后一个作者是个大牛。以前搞什么马尔可夫场的好像是
: <br>




--
※ 修改:·Caravel 於 Jan 10 16:24:59 2020 修改本文·[FROM: 108.]
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 12.]

 
guvest
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 18 ]

发信人: guvest (我爱你老婆Anna), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 16:26:54 2020, 美东)

嫁接的这步不理解。不理解其合理性何在。不明觉厉。


【 在 Caravel(克拉维尔) 的大作中提到: 】
<br>: 有150多次引用,应该还是比较solid的把。 文中没有细说,但是他有code,嫁
接是
<br>: transfer learning很standard的技巧,就是把无监督的网络中间一些或全部
layer的结
<br>: 果拿出来,把weight lock住,然后再接上少量几层classifier,再用labeled
data
<br>: train一下。
<br>: 我把open review的链接也找出来了
<br>: https://openreview.net/forum?id=S1v4N2l0-
<br>
--
※ 来源:· 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 38.]

 
Caravel
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 19 ]

发信人: Caravel (克拉维尔), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 16:29:45 2020, 美东)

classification是另外一个task,需要label,但是前面无监督学习得到的feature和
representation有用

【 在 guvest (我爱你老婆Anna) 的大作中提到: 】
: 我也想问。其实我都没看懂他怎么把无监督预测,嫁接到classfier的。
: 假设每个img有4个像素,abcd. 训练集合
: 200个图。其中10个有label。label是0,1两类。
: 再假设完成了一个预测旋转角度的预测器。
: 对任意(a,b,c,d)四像素,可以输出一个角度。
: [这是文章的主要成果]
: 但是,然后步骤是什么?怎么对一个测试图,分出来0,1两类。这步我不明白。
: <br>: 值得读一下吗
: <br>: 实用性可有?
: <br>: 最后一个作者是个大牛。以前搞什么马尔可夫场的好像是
: ...................



--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 12.]

 
guvest
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 20 ]

发信人: guvest (我爱你老婆Anna), 信区: Programming
标  题: Re: 最近视觉领域的self supervised learning进展不少
发信站: BBS 未名空间站 (Fri Jan 10 16:33:52 2020, 美东)

他把前面一个角度预测任务的feature 弄过来,weight lock。
然后后面接上少量几层,用少量的label数据,只训练这少量的几层?

我怕这个技术太specific。根据我的个人经验,我怀疑这个技术只能用在图形上。最简
单的linear regression任务,这样操作一下,结果可能不会好。
【 在 Caravel(克拉维尔) 的大作中提到: 】
<br>: classification是另外一个task,需要label,但是前面无监督学习得到的
feature和
<br>: representation有用
<br>


--
※ 修改:·guvest 於 Jan 10 16:37:19 2020 修改本文·[FROM: 76.]
※ 来源:· 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 38.]

[首页] [上页][下页][末页] [分页:1 2 ]
[快速返回] [ 进入葵花宝典讨论区] [返回顶部]
回复文章
标题:
内 容:

未名交友
将您的链接放在这儿

友情链接


 

Site Map - Contact Us - Terms and Conditions - Privacy Policy

版权所有,未名空间(mitbbs.com),since 1996