人工智能研究者会不会遗臭万年精编.docx





《人工智能研究者会不会遗臭万年精编.docx》由会员分享,可在线阅读,更多相关《人工智能研究者会不会遗臭万年精编.docx(6页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、人工智能研究者会不会遗臭万年对未知的恐惊 由科幻小说作家Arthur Clarke设想并最终由电影导演Stanley Kubrick制成的计算机HAL 9000就是一个很好的例子。在许多困难的系统里,例如泰坦尼克号、美国航空航天局的航天飞机、切尔诺贝利核电站,工程师们把很多不同的组件放在一起。设计师们可能特别清晰每个单独的元素是如何工作的,但是当这些元素连接在一起时,他们就无法知之甚透,就会产生意外的后果。 所以不能完全了解的系统,往往会不受限制并出现意外的后果。一艘轮船的沉没,两架航天飞机的爆炸,遍布欧亚大陆的放射性污染,在每一场灾难都是一系列小差错导致的大灾难。 而在我看来,目前人工智能也
2、落入了同样的境地之中。我们从认知科学中学习最新的探讨结果,然后将其转化为一种程序算法并添加到现有的系统中。我们在还不了解智能认知的状况下,便起先对人工智能进行改造。 例如IBM的沃森和谷歌的Alpha系统,我们将强大的计算机实力和人造神经系统结合在一起,帮助他们取得了一系列令人惊羡的成就。假如这些机器出了差错,可能出现的结果是沃森不会喊“危急”了或者Alpha不能战胜围棋大师了,但是这些错误都不是致命的。 然而,随着人工智能的设计变得更加困难,电脑处理器变得更快,它们的技能也会得到提升。出现意外的风险也在增加,我们的责任也更重。我们常常说“人无完人”,那么我们创建的系统也确定存在缺陷。 对滥用
3、的恐惊 目前我正在应用“神经进化法”来开发人工智能,在可能引发的意外后果这一方面,我并不非常担忧。我创建虚拟环境,开发数字生物从而使他们的大脑可以解决日益困难的任务。我们会评估这些智能生物的表现,表现最好的会被选择出来再次生产并研发下一代。这样,经过几代的进化,这些机器生物已经渐渐演化出了认知实力。 现在,我们正在给这些机器生物设定一些特别简但的任务,比如他们可以做简洁的导航任务,做一些简洁的确定等,但很快我们就会设计出能够执行更困难任务更智能的机器,最终,我们希望可以达到人类的智力水平。 在这个过程中,我们会发觉问题并解决问题。每一代机器都能更好地处理前几代机器曾经出现的问题。这帮助我们可以
4、削减在将来他们真正进入世界时出现意外结果的概率。 此外,这种代代相传“的改良方法还可以帮助我们发展人工智能的伦理道德。最终我们想要演化出是有可信任性及利他主义这样人类道德的人工智能。我们可以设置一个虚拟环境,给那些表现出友善、诚恳和同理心的机器嘉奖。可能这也是一种确保我们研发的是更听话的仆人或值得信任的伙伴的方法。同时也可以削减出现冷酷杀手机器人的几率。 虽然这种“神经进化法”可能降低出现不行控结果的可能性,但它并不能防止滥用。但这是一个道德问题,而不是科学问题。作为一名科学家,我有说出真相的义务,我须要报告我在试验中发觉的东西,不管这种结果我想不想说。我的重点不是确定我想要什么,而是将结果展
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 研究者 会不会 遗臭万年 精编

限制150内