欢迎光临上海公关公司官网!
10年专注企业危机公关处理 网络舆情口碑维护公司、网络公关公司
微信:haotu616
当前位置:网络公关 > 舆情处理 >
舆情处理

换同义词,AI把句子的意思弄反|华人研究者揭示NLP模型脆弱性

作者:admin 来源:未知 时间:2022-01-03 10:19:08 点击:

[文章前言]:,还有很多淘宝店销售同一品牌,他们自己的网上商店如何脱颖而出?小雪决定不仅要把小雪生产做成一个优秀的网上商店,还要做一个淘宝品牌。 通过这个品牌,她向消费者传达了她

       ,还有很多淘宝店销售同一品牌,他们自己的网上商店如何脱颖而出?小雪决定不仅要把小雪生产做成一个优秀的网上商店,还要做一个淘宝品牌。

           通过这个品牌,她向消费者传达了她的善良和简单的情感,生产会让人们想到质量的保证。在淘宝网络市场上,产品质量和服务对赢得客户同样重要。

           小雪不同于其他卖家。面对每一位客户,她不仅热情,而且积极帮助他们找到合适的搭配。无论高、矮、胖、瘦,小雪生产都会为客户精心挑选合适的服装。小雪说:我们会选择更多的服装品牌进行代销,新旧产品的搭配,让消费者有更多的选择。

           小雪对网店的经营也有自己的看法,她说:‘小雪的制作要营造一种普通人也能做非凡事的感觉,一件普通的衣服也能穿得精彩,一个普通人也能创造奇迹。

       淘宝和天猫商城

           电子商务的出现和发展为大多数消费者提供了一个在线购物平台,使消费者可以在不离开家的情况下完成购物,为商家和消费者节省了大量时间,大大提高了交易效率。许多企业和企业已经从离线转移到在线,互联网创业逐渐成为年轻人创业的首选。

           网上商店作为一种电子商务形式,可以让消费者在浏览网站时购买,并通过在线支付完成交易。网上商店不同于实体店。企业不需要一家商店或从一开始就招聘员工,这大大降低了运营成本,为资金不足的人提供了极好的创业机会。

           作为中国网店店主最集中的社区,阿里巴巴电商平台、淘宝、天猫商城几乎占了中国网民总数的1%/3.近年来,随着我国电子商务的快速发展,阿里巴巴不仅成为创业奇迹,而且在阿里巴巴、淘宝、天猫商城等平台的帮助下成功创业。

           阿里巴巴电商平台

           阿里巴巴集团于1999年由马云等18人在杭州成立,是中国领先的在线批发平台。如今,阿里巴巴集团经营业务更加多样化,其业务及相关公司包括淘宝、天猫、成本效益、全球快递、阿里巴巴国际交易市场、1688、阿里妈妈、阿里云、蚂蚁金服、新秀网络等,并于2014年9月19日在纽约证券交易所正式上市。

           2016年4月6日,阿里巴巴正式宣布,它已成为世界上最大的零售交易平台。阿里巴巴的淘工厂项目是基于互联网的灵活制造平台,连接淘宝平台的服装商家和工厂,使工厂能够在互联网上承担生产订单。目前,阿里巴巴电子商务平台的发展促进了云计算、网络第三方支付、网上商店运营、咨询服务等生产服务的发展,形成了巨大的新兴产业生态环境。

           图 1-批发网界面采购11688

           淘宝和天猫商城

           1.淘宝网

           2003年5月10日,阿里巴巴集团投资成立淘宝,10月推出第三方支付工具支付宝,促进消费者信任淘宝的在线交易。2005年,淘宝成为亚洲最大的在线购物平台,年营业额超过80亿元,超过沃尔玛。

           随着淘宝发展规模的不断扩大,淘宝也从单C2开始C包括C2在内的网络集市C、综合性零售商圈,包括配送、拍卖、直供、众筹、定制等电子商务模式。

           图 1-2淘宝网页面

           2.天猫商城

           2012年1月11日,淘宝商城在北京举行战略新闻发布会,宣布将中国品牌淘宝商城更换为天猫商城。天猫商城提供了一个定位和风格更清晰的消费平台。猫性感有品味。天猫网上购物代表时尚、性感、潮流和品质;猫天生挑剔、品质、品牌和环境。这恰好是天猫网上购物要打造的优质城市。

           2012年3月29日,天猫发布全新Logo形象,成为淘宝全新的B2C(Business-to-Consumer)商业零售模式整合了数千家品牌和制造商,为商家和消费者提供100个一站式解决方案%质量保证的商品。2014年2月19日,天猫国际正式推出,直接为国内消费者提供海外进口商品。

           图 1-3天猫网页面

           淘宝和天猫商城的区别

           这两个网站都属于阿里巴巴集团。模式是在网上开店。他们都需要注册和认证才能买卖自己的商品。两者均由支付宝第三方支付。如果产品有质量问题,可以退货。

           两者的区别主要体现在以下几个方面:

           (1)淘宝是C2C平台,大家都可以在淘宝开店;天猫是B2C平台需要以公司的形式开店。没有注册公司,就不能在天猫商城开店。换句话说,两者的起点是不同的。

           (2)在淘宝开店,卖东西不需要向淘宝支付任何佣金;天猫商城卖东西需要支付一定的佣金。

           (3)如果淘宝是市场,那么天猫商城就是超市。天猫商城必须经营品牌产品,淘宝可以使用任何产品。

           无论是在淘宝还是天猫商城,首先要确定自己的产品和目标消费群体,根据产品,并根据产品的特点和经济状况做出正确的选择。选择在淘宝上购物的消费者和选择在天猫商城购物的消费者有不同的心理需求。天猫商城的消费者更追求品牌和质量;在淘宝上购物的消费者追求便宜性价比

           骗过AI如此简单 \b\u0005 。

           换个同义词 \b,自然语言处理模型读不出句子的意思 \b\u0005 。

           香港大学麻省理工学院和研究生开发了算法 \u0006\u0005\u0006 \u0006\u0005\u0006,让AI文本分类和推理的准确性从80开始%下降到10% \b\u0005 。

           测试原理 这个模型的名字叫Textfooler \b,通过微调句 \b攻击自然语言文本的分类和推理 \u0006\u0005\u0006 \u0006\u0005\u0006。

           例如,在著名的分类任务影评判断中 \b,AI任务是判断影评是肯定的还是否定的 \b。

           像这句:

           The characters,cast in impossiblycontrived situations,aretotallyestranged from reality.(剧中的人物 \b,安排在不可能的情况下 \b\u0005 ,与现实完全脱节 \b。)

           Textfooler模型生成的对应句子是:

           The characters,cast in impossiblyengineered circumstances,arefullyestranged from reality.

           将contrived situation改为了engineered circumstance \b\u0005 ,totally 改为fully \b\u0005 。

           结果AI将第一句标记为负面 \b\u0005 ,第二句标记为正面 \b\u0005 。

           在推理任务中 \b,AI要判断句子与情境的关系 \b\u0005 ,是蕴含 \b\u0005 ,中立 \b\u0005 ,还是矛盾 \b\u0005 。

           例如,给定一个前提:

           Two small boys in blue soccer uniforms use a wooden set of steps to wash their hands.两个穿着蓝色足球服的小男孩用一套木制台阶洗手 \b\u0005 。

           T需要判断这句话he boys are in band uniforms.(男生穿乐队制服)和前提的关系 \b\u0005 。

           AI将这句话判断为矛盾 \u0006\u0005\u0006 \u0006\u0005\u0006。

           当把uniforms这个词改为garments以后:The boys are in band garments \b\u0005 。

           AI 将句子判断为含义 \u0006\u0005\u0006 \u0006\u0005\u0006。

           此外 \b\u0005 ,研究小组还要求人类被试阅读这些句子 \b\u0005 ,确认其新生成的句子接近原句 \b\u0005 。

           他们从两个数据集M进行实验R dataset和WordLSTM各挑100个例子 \b\u0005 ,请试行打分 \b。相似为1 \b\u0005 ,有歧义为0.5 \b\u0005 ,不同为0 \b,最终分数分别为0.91和0.86 \b\u0005 。

           这说明 \b\u0005 调整后的句子对人类阅读影响不大 \b\u0005 。

           模型测试结果 研究小组使用了三个模型 \b,测试七个数据集 \b。

           三种模型为:BERT \b,WordCNN \b\u0005 ,WordLSTM \b\u0005 。

           数据集:

           

 

           △五是分类数据集 \b\u0005 ,两个是包含推理数据集的 分类任务的试验结果如下:

           

 

           所有模型的原始精度为78%以上 \b,像BERT表现更好 \b,两个数据集都可以达到97%的精确度 \b\u0005 。

           但是经过Textfooler的攻击 \b,精度全部降到20%以下 \b\u0005 。

           再包括推理任务的表现:

           

 

           精度从原来的80开始%降到了10%以下 \b\u0005 。

           可能会对实际应用产生影响 A处理文本I越来越多的候选人被用来判断 \b\u0005 ,评估医疗报销 \b,处理法律文件 \b\u0005 。因此 \b\u0005 ,研究人员认为 \u0006\u0005\u0006 \u0006\u0005\u0006,AI的这一缺陷要引起重视 \b。

           若用于金融或医疗保健中的自动化系统 \b,即使是文本上微小变化 \b,也可能造成很多麻烦 \b。

           加州大学欧文分校助理教授Sameer Singh说 \b\u0005 ,这种调整文本的方法对A非常有效I该系统产生了良好的对手 \b\u0005 。

           但他又说 \u0006\u0005\u0006 \u0006\u0005\u0006,这个方法在实践中很难实施 \u0006\u0005\u0006 \u0006\u0005\u0006,因为它涉及反复探测AI系统 \b\u0005 ,这可能会引起怀疑 \b\u0005 。

           加州大学伯克利分校教授Dawn Song专门研究AI和安全性 \b。她说 \b\u0005 ,这项研究是不断发展的一部分 \b\u0005 ,这项工作表明如何欺骗语言算法 \b,各种商业系统可能容易受到某种形式的攻击 \b\u0005 。

           看来 \b\u0005 ,想读懂人话 \b\u0005 ,AI还需要继续努力 \b\u0005 。

           研究团队 该研究由清华大学、香港大学和新加坡科技研究所的研究员共同完成 \b\u0005 。有两位通讯作者:

           

 

           △Di Jin Di Jin \b清华大学计算机学院毕业 \b\u0005 。2020年获得MIT计算机科学博士学位 \b。目前是MIT计算机科学与人工智能实验室助理研究员 \u0006\u0005\u0006 \u0006\u0005\u0006。

           

 

           △金致静 金致静 \u0006\u0005\u0006 \u0006\u0005\u0006,高中毕业于上海华东师范大学二附 \b\u0005 香港大学本科毕业 \b\u0005 ,目前正在申请博士学位 \u0006\u0005\u0006 \u0006\u0005\u0006。已经在顶级会议N了AACL \u0006\u0005\u0006 \u0006\u0005\u0006,EMNLP \b,AAHPM \b\u0005 ,AAAI发表了4篇NLP论文 \b。

           github地址:

           论文地址:

           参考链接:

           

           \b\u0005 \b\u0005 \u0006\u0005\u0006 \u0006\u0005\u0006 \b\u0005

  以上就是小编为大家介绍的换同义词,AI把句子的意思弄反|华人研究者揭示NLP模型脆弱性的全部内容,如果大家还对相关的内容感兴趣,请持续关注上海危机公关公司

  本文标题:换同义词,AI把句子的意思弄反|华人研究者揭示NLP模型脆弱性  地址:/yuqingchuli/2022/0103/2300.html