海纳百川
登录 | 登录并检查站内短信 | 个人设置 网站首页 |  论坛首页 |  博客 |  搜索 |  收藏夹 |  帮助 |  团队  | 注册  | RSS
主题: 从温室效应到历次世界大战
回复主题   printer-friendly view    海纳百川首页 -> 罕见奇谈
阅读上一个主题 :: 阅读下一个主题  
作者 从温室效应到历次世界大战   
随便






加入时间: 2004/02/14
文章: 24019

经验值: 64
文章标题: 从温室效应到历次世界大战 (554 reads)      时间: 2007-7-30 周一, 下午2:36
作者：随便 在 罕见奇谈 发贴, 来自 http://www.hjclub.org

所谓删除神经元，等于人脑中某些脑细胞死亡。俺已经讲明，
目前的神经网络都有这个能力。因为训练可能是把某个神经元
的输入都置零，或者将其输出权重置零，两种情况都等于删除
了该神经元。

因此，重构并不关心删除神经元的问题。只关心如何加入神经
元，以及增减现有神经元之间的联系。只修改权重，显然局限
性太大。

局部极值问题对于连续函数已经完全解决，但全局优化仍然没
什么进展。离散函数的全局优化就更甭提了。这就是为什么近
年来引入了SIMULATED ANEALING，GENETIC ALGORITHM，这些办
法。这些办法的共同点是跳出已经找到的局部极值，去寻求全
局极值。

如何跳是个HOW的问题。目前没什么系统的令人信服的学说。只
是用类比的办法尝试。SIMULATED ANEALING 是模拟金属冷却过
程。基因算法是模拟基因变异。神经网络自然可以模拟人脑的
训练过程。人脑在训练过程中，产生新的神经元，或者启用老
的神经元。老的神经元也可能跟其他神经元发生新的联系。这
也就是俺说说的神经网络的重构。

很显然，新神经元的产生和连接，相当于前述两种算法的“跳
出局部极值”。也就是基因算法中的变异(MUTATION)。

重构的HOW，可以根据以上的思路寻找。一般来说，使用最充分
的神经元得到的刺激最大，局部的重构最容易发生。对于有一定
能力者，提示到这个水平就够了。他应该可以据此构想，找出具
体的重构方案，付诸实施，并且给出结果。

至于重构前的神经网络会不会遭到破坏，回答是肯定的。但是这
不成为什么问题。因为，每次重构前的网络构造以及相应的识别
结果都可以存起来。如果重构后的网络识别结果不及重构前，恢
复原结构，再搞一个新的重构就是了。

这种简单疑问，对 SIMULATED ANEALING 以及 GENETIC 方法稍
有了解者，就不应该提了。

重构能否保证找到全局极值？当然不能。没什么办法能保证。否
则俺上面谈的还有什么意义。所有这些办法，这都是没有办法的
办法。即使能完美地用软件复制人脑功能，难道就能保证思考达
到最优吗？也TMD不能么。从温室效应，制造核蛋，到历次世界
大战，人类犯的错误还少吗。

得了，俺的本行是农业。要不是研究美国中部的老玉米，俺跟这
些捞什子8杆子都打不着。俺地里活正多，有兴趣者自己绞脑子
去吧，俺不奉陪了。

作者：随便 在 罕见奇谈 发贴, 来自 http://www.hjclub.org
返回顶端
阅读会员资料 随便离线  发送站内短信
显示文章:     
回复主题   printer-friendly view    海纳百川首页 -> 罕见奇谈 所有的时间均为 北京时间


 
论坛转跳:   
您不能在本论坛发表新主题
您不能在本论坛回复主题
您不能在本论坛编辑自己的文章
您不能在本论坛删除自己的文章
您不能在本论坛发表投票
您不能在这个论坛添加附件
您不能在这个论坛下载文件


based on phpbb, All rights reserved.
[ Page generation time: 0.089763 seconds ] :: [ 23 queries excuted ] :: [ GZIP compression enabled ]