欢迎光临上海公关公司官网!
10年专注企业危机公关处理 网络舆情口碑维护公司、网络公关公司
微信:haotu616
当前位置:网络公关 > 舆情处理 >
舆情处理

图灵奖得主Bengio和LeCun:可以自我监督学习AI达到人类智力水平

作者:admin 来源:未知 时间:2022-02-16 10:33:30 点击:

[文章前言]:的了。 里欧门尼斯:他们会很快产生分歧,争吵不休。但我不认为他们能意识到。 荷瑞修:这样,人就不可能组合成一个整体。如果是这样,社会是如何出现的? 里欧门尼斯:我早就告

       的了。

           里欧·门尼斯:他们会很快产生分歧,争吵不休。但我不认为他们能意识到。

           荷瑞修:这样,人就不可能组合成一个整体。如果是这样,社会是如何出现的?

           里欧·门尼斯:我早就告诉过你,社会出现在私人家庭中,但这个过程确实经历了各种各样的困难和曲折,需要很多帮助的机会。只有在许多一代之后,才能形成社会的现实。

           荷里修:我们知道人可以形成社会;但是,如果每个人天生就有一个错误的想法,那就是觉得一切都是为了自己,永远无法觉醒,你怎么解释社会的出现?

           里欧·门尼斯:关于这个问题,我有以下观点:为了生存,所有的动物都必须满足他们自己的各种需求,让物种繁殖一直是健康男性的需要,即使在他完全成熟之前。如果一对野蛮的男人和女人在很小的时候就认识对方,一起度过了50年,生活环境和气候适宜,健康良好,食物丰富,那么他们很有可能繁殖许多后代。这是因为,在自然野蛮的状态下,人们比所有有序社会都能接受的要快得多。如果条件允许,任何14岁的男人都会立即和一个女人住在一起。任何12岁的女人都不会反对。同样地,所有12岁的男人都不可能一直求婚。

           荷瑞秀:在这些人中,可能不可能阻止血亲结婚。因此,一对野蛮男女的后代可能会在不久的将来拥有数百人。我可以确认这种情况会发生。因此,他们都是无能的父母,很少有人能教他们的孩子。因此,如果这些孩子在成年后不能分别形成好坏社会,那么父母就无法控制他们。你提到的每个人生来就有的错误想法是一个无法克服的困难。

           里欧·门尼斯:根据你提到的错误想法,也就是说,人们认为他们有资格拥有一切。当然,人们会觉得他们能得到的一切都是他们自己的。因此,父母也会把孩子当作自己的财产,用它来影响孩子,让孩子的行为尽可能满足父母的需要。

           荷瑞修:如果野蛮人不一贯执着于追求什么,他们的利益在哪里?

           里欧·门尼斯:当一种激情战胜一切时,就要迎合它的需要。

           荷瑞修:战胜所有激情不断变化,这样的孩子估计很难管教。

           里欧·门尼斯:这是非常正确的,但他们仍然可以被管理。换句话说,能够控制他们,强迫他们服从,至少当他们没有足够的能力拒绝服从时。先天的爱会鼓励一个野蛮人宠坏他的儿子,让他尽最大努力为他的儿子提供食物和其他必要的东西,直到他的12岁生日或更大。然而,这种关心并不是他必须迎合的唯一激情。如果他的儿子非常叛逆,或者做了他父亲禁止他做的事,他的父亲会感到非常生气,而这种关心也会突然停止。如果他父亲的愤怒上升到让他生气的水平,他很可能会打他的儿子。如果他打儿子伤痕累累,或者儿子的情况让他怜悯,他的愤怒就会平静下来,天生的爱就会再次出现,他会继续宠坏他的儿子,并对自己的一切感到羞愧。因此,我们知道,如果我们知道所有的激情,我们最终都知道如何远离痛苦,我们知道如何把所有这两种激情结合在一起来,我们知道如何尊重新的父亲。

           荷瑞修:现在我都明白了。你让我大开眼界。我清楚地了解社会的起源。

           里欧·门尼斯:情况可能没有你想象的那么清楚。

           何瑞秀:为什么?那些艰难的困难已经不存在了。没受过教育的人长大后不能被治理,这是真的。在政府优越性不显著的地方,我们的屈服肯定不会发自内心。然而,这两个困难已经消失了。我们年轻时对一个人的尊重很可能伴随着我们的一生;只要是认可权威的地方,只要是人们敬畏权威的地方,管理所有的生物都不难。如果这样的人能用权威压制儿子,他就更容易利用权威利用孙子孙女。这是因为一个对父母没有任何尊重的孩子,却不会拒绝尊重让父亲无比尊重的人。而且,人的骄傲已经能够鼓励他捍卫自己现有的权威。如果孩子不服从他,他会想尽一切办法让别人帮忙,让这种叛逆消失在无形中。家里的权威会从他的长子那里传下来。

           里欧·门尼斯:我认为你的结论有点太草率了。如果野蛮人理解事物的本质,生来就有常识,就像亚当依靠奇迹一样,生来就知道如何使用现成的语言,那么你提到的所有实现的可能性都是非常大的。然而,一只无知的动物,除了他自己的经历,对其他人一无所知,他根本不是治理别人的合适候选人,就像他根本不是教数学的合适候选人一样。

           荷瑞修:一开始,他最多要管辖一两个孩子,他的

           在2020的ICLR 在线会议上\b\u0005 ,蒙特利尔学习算法研究所主任,图灵奖得主Yoshua Bengio和Facebook 副总裁兼首席人工智能科学家Yann LeCun \b\u0005 ,坦率地谈论未来AI研究趋势 \b\u0005 。

           根据两位大咖的说法 \b\u0005 自我监督学习可能会使自我监督学习AI产生类人的推理能力 \u0006\u0005\u0006 \u0006\u0005\u0006。

           

           自我监督学习 \b,像人一样有意识地观察世界 监督学习需要在标记的数据集上训练AI模型 \u0006\u0005\u0006 \u0006\u0005\u0006,而 LeCun 认为随着自我监督学习的广泛应用 \b\u0005 ,这种训练模式的作用将逐渐减弱 \b。自监督学习算法不再依赖标注 \b,相反,通过揭示数据各部分之间的关系 \b\u0005 ,从数据中生成标签 \b。

           自我监督学习是一种机器学习「理想状态」 \b\u0005 ,重点是如何自动生成数据标签 \b,这一步被认为对实现人类水平的智力至关重要\b。举个例子 \b,例如,输入图片 \b,将图片随机旋转一个角度 \b,然后将旋转图片输入 \b\u0005 ,随机旋转角度作为标签 \b。

           很多网友关注的一个问题是 \b\u0005 ,自监督学习和无监督学习是一样的吗?\u0006\u0005\u0006 \u0006\u0005\u0006?

           自我监督类似于无监督学习 \b,从没有明确标签的数据中学习 \b\u0005 。但无监督学习侧重于学习数据的内在关系和结构\b\u0005 ,比如clustering、grouping、density estimation,or anomaly detection等等 \u0006\u0005\u0006 \u0006\u0005\u0006,自我监督是根据数据集本身生成的标签\b\u0005 。

           为了进一步解释自我监督学习 \b\u0005 ,LeCun做了类比 \b,「无论是我们人类 \b,还是动物 \b,学习大多数事物时, \b, 都是在自我监督下进行\b\u0005 ,而不是强化学习模式\b\u0005 。这种模式本质上是观察世界 \u0006\u0005\u0006 \u0006\u0005\u0006,然后不断与之互动\u0006\u0005\u0006 \u0006\u0005\u0006,这种观察是自发的 \b\u0005 ,而不是在测试条件下完成的 \b\u0005 。」LeCun表示 \b,「这种学习方法 \b\u0005 很难用机器复制 \b\u0005 。」

           其中 \b,不确定性是阻碍自我监督学习成功的主要障碍 \b\u0005 。

           连续分布和离散分布

           数据的分布就是这样一个表 \b\u0005 ,它将所有可能的变量值与其概率联系起来\b。当变量离散时 \b\u0005 ,它们能很好地表达不确定性 \b,这就是为什么像Google BERT这样的架构太成功了 \u0006\u0005\u0006 \u0006\u0005\u0006。但目前 \b\u0005 研究人员还没有找到有效地表达连续变量分布的方法 \b\u0005 。

           测试斯坦福对话问答数据集时 \b\u0005 ,BERT 实现了93.2% 精度 \b\u0005 ,分别优于最先进的机器学习水平和人类水平 \b\u0005 。斯坦福问答数据集是阅读理解数据集 \u0006\u0005\u0006 \u0006\u0005\u0006,包含了一组维基百科文章中提出的问题 \b\u0005 NLP 系统资源集合\b\u0005 ,BERT80的准确率.4% \b。

           

           解决连续分布问题LeCun认为 \b\u0005 ,找到一个可以表示连续分布的模型 \b\u0005 ,会有新的突破 \b\u0005 。

           Lecun 指出 \b\u0005 连续分布问题的解决方案之一是基于能量的模型(EBM) \u0006\u0005\u0006 \u0006\u0005\u0006,它可以学习数据集中的数学元素 \b\u0005 ,并生成类似的数据集 \u0006\u0005\u0006 \u0006\u0005\u0006。

           以前 \b,OpenAI基于能量的模型 \b,能快速学会识别和生成概念 \b\u0005 ,比如附近 \b\u0005 ,上 \b\u0005 ,中 \b,最近和最远等 \u0006\u0005\u0006 \u0006\u0005\u0006,并表示为2D点集 \b\u0005 模型只在五次演示后学习了这些概念\b。

           从过去的研究来看\b\u0005 ,这种形式的建模在实践中很难应用\u0006\u0005\u0006 \u0006\u0005\u0006,但Open AI 2019年的研究表明, \b\u0005 ,这种基于能量的模型可以支持复杂的拓扑(topologies) \u0006\u0005\u0006 \u0006\u0005\u0006。

           Bengio 在讨论中说 \b\u0005 他相信人工智能研究可以从神经科学领域受益很多 \b,特别是对意识和意识处理的探索\b。当然,收入也是双向 \b\u0005 ,一些神经科学家正在使用卷积神经网络作为视觉系统的腹部通道 \b\u0005 。

           Bengio预测 \b\u0005 ,新研究将阐明高级语义变量与大脑如何处理信息(包括视觉信息)之间的关系\b\u0005 。这些变量用于人类语言交流 \b\u0005 ,它们可能会衍生出新一代的深度学习模式 \b\u0005 。

           「通过与基础语言学习相结合 \b,我们可以取得很多进展\b,归根结底,我们都在建立一个能够理解世界的模型 \b\u0005 ,以及高层次概念是如何相互关联的 \b\u0005 。这是一种联合分布 \b\u0005 ,」Bengio 说 \u0006\u0005\u0006 \u0006\u0005\u0006。「我相信 \b\u0005 ,人类意识处理过程 \b\u0005 ,利用世界如何变化的假设 \b\u0005 ,这些假设可以理解为更高层次的表达 \b\u0005 。简单来讲 \b\u0005 ,我们看到了世界的变化 \b\u0005 ,然后想一句话来解释这种变化 \b。」

           

           另一个人类智力问题:背景知识 想要实现人类智力 \b\u0005另一个大问题是背景知识 \u0006\u0005\u0006 \u0006\u0005\u0006。正如 LeCun 解释的 \b\u0005 大多数人可以在30小时内学会开车\u0006\u0005\u0006 \u0006\u0005\u0006,因为他们用直觉构建了一个关于汽车行动的物理模型 \b。相比之下 \b\u0005 ,无人驾驶汽车使用的强化学习模型应该从零开始学习---- 他们必须犯成千上万的错误 \b,只有这样正确的操作 \b。

           LeCun表示 \b,「显然 \b\u0005 ,我们需要能够构建学习世界的模型\u0006\u0005\u0006 \u0006\u0005\u0006,这就是自我监督学习的原因mdash;mdash;运行预测世界模型 \b,能让系统学得更快 \b\u0005 。从概念上讲\b,这很简单 \b\u0005 ,除非是在我们无法完全预测的不确定环境中 \b。」

           LeCun 认为 \b\u0005 ,要实现通用人工智能(AGI) \b\u0005 ,即使有自我监督学习和神经科学学习的祝福 \b,也是不够的 \b\u0005 。

           通用人工智能(AGI )是指机器获得人类水平的智能 \b\u0005 AI(strong AI)或者完全AI(full AI) \b,或者说机器有执行通用智能行为的能力(general intelligent action)的能力 \b\u0005 。

           他说 \b\u0005 ,这是因为智力 \b\u0005 ,尤其是人类的智力 \u0006\u0005\u0006 \u0006\u0005\u0006, 很特别\b。「AGI 不存在 \b\u0005 ,根本没有通用人工智能这回事 \b\u0005 。我们可以谈论老鼠、猫和狗的智力\b,或者人类智力 \b\u0005 ,但根本不是通用人工智能 \u0006\u0005\u0006 \u0006\u0005\u0006。」LeCun说 \u0006\u0005\u0006 \u0006\u0005\u0006。

           \b \b\u0005 \b\u0005 \b\u0005

  以上就是小编为大家介绍的图灵奖得主Bengio和LeCun:可以自我监督学习AI达到人类智力水平的全部内容,如果大家还对相关的内容感兴趣,请持续关注上海危机公关公司

  本文标题:图灵奖得主Bengio和LeCun:可以自我监督学习AI达到人类智力水平  地址:/yuqingchuli/2022/0216/3319.html