论文部分内容阅读
“当真相在穿鞋的时候，谎言已经跑遍全城。”现代社会，虚假新闻、图片、视频，甚至商品等借助网络渠道迅速传播。近日公布的《中老年人上网状况及风险网络调查报告》显示，近六成中老年曾遭受过网络谣言的危害。
人们常说“流言止于智者”，要想不被网上的流言和谣言盅惑、伤害，首先需要对其进行科学甄别，而时下人工智能正在尝试担任这一角色。那么，在打假一线AI技术如何做到去伪存真？这样的“本领”可应用在哪些领域？
海量资讯发布，传统识谣模式受限
虚假信息的产生主要有两类动机：一类是利益驱动，2018年发表于《科学》的研究发现，要达到相同的传播深度，虚假信息的速度是正常信息的20倍;另一类是政治驱动，在现有互联网经济中，高效传播代表着高额经济价值，人工智能技术会被不法分子用来左右公众对于政治的认知和判断，从而控制舆论，威胁政治安全。
为了减少虚假信息，有必要对网络新闻进行认证。但大型资讯聚合类平台每天的新闻发布量一般在50万条以上，显然完全依靠人工认证是不现实的，面向公众，亟待建立高效的AI识谣平台。
据了解，目前国内已有的主要识谣、辟谣平台基本还是依靠专家识别模式，其存在一定的问题：发现线索主要依赖用户举报，数量有限，时效性不强，往往是事件已造成负面影响才“后知后觉”;此外，新闻认证速度有待提高。Facebook统计，依靠专家辟谣的认证模式平均滞后3天，错失辟谣最佳时期;覆盖类别受限，专家只能在自身擅长的领域辟谣，领域专家库的多样性决定了人工辟谣平台的能力上限。
为提高识谣效率，目前中科院计算机研究所、阿里、腾讯等多家企业和机构已经开展了人工智能识谣工作。中科院计算所副研究员、博士生导师曹娟带领团队从2013年開始致力于开展基于人工智能技术的虚假信息检测研究，她介绍，AI识谣公众平台可自动及时发现可疑线索并进行认证，大大降低谣言可能带来的危害;通过机器学习算法辅助人工审核，仅需1分钟即能对疑似谣言事件发出预警;基于数据驱动的方法，平台还可不断挖掘出不同类别谣言的特性，实现对各种谣言地自动识别。
不过，需要指出的是，“虚假信息识别是一个高度复杂的问题，一方面是虚假的定义并不明确，需要不确定性建模;另一方面是标注很困难，需要小样本学习方法。目前，机器学习算法的准确率尚不足以完全取代人类，但已能够辅助人类更快更好地审核新闻。”曹娟表示。正如扎克伯格所说，“想要完全依靠AI审核内容，可能尚需5～10年时间”。
多模态、多层次、多角度揪出假新闻
“虚假新闻往往从选题、文字表述，到配图都呈现出较强煽动性：一般选题集中于社会热点或争议点;文字描述中情感激烈;配图具有视觉冲击力等。”曹娟剖析道。
曹娟介绍，目前，中科院计算所开发的辟谣平台已积累数万条假新闻信息，累计认证数十万次。通过平台积累的数据，目前可从新闻质量的角度把杜撰的新闻文本大致分为三类：一完全杜撰，往往是在真实存在的实体上编造情节;二半真半假，可能描述的前半段是真，后半段就展开不可靠的想像，或者一部分是真，但在关键情节上添油加醋;三旧闻新传、移花接木，事件本身可能存在，但发布者故意模糊化甚至篡改原事件中的时间、地点，让人误以为事情刚刚发生在当地。
除去文字造假，图片视频造假也越来越多。“我们将虚假新闻配图分为复用的过时图片、能引起歧义的误导性图片及篡改图片。假新闻通常呈现出新闻要素缺失、图像质量低、内容包含色情敏感广告等低俗信息，以及图文不匹配等特点。例如，有些假新闻中的配图会出现满屏弥漫冲天大火、公路凹陷深坑、被弃男童在垃圾废墟前嚎啕等画面。”曹娟描述道，“谣言更易形成病毒式扩散的趋势，而真实新闻的扩散速度和爆发度要温和许多。”
“从核心技术上，AI甄别谣言依赖于‘三多’。”曹娟说，一是多模态数据，谣言从发布、传播到被辟谣的生命周期中，可能会伴随产生文字、图片、视频、传播网络、参与用户属性等多种模态的数据，各模态数据均能不同程度指示谣言，例如谣言文字的情感倾向、图片的视觉冲击力、传播网络的结构属性等，但没有哪种模态的数据拥有独立完全的谣言指示能力，所以要尽可能获取不同模态的数据。
二是多层次表示，深度学习技术有强大的表示学习能力，经过神经网络结构和融合机制的设计，AI模型可以在面对众多意义、形式、结构都不同的模态数据时，综合不同层次数据，自动找出最有区分能力的表示组合，并将待甄别文章对应的文字、图片、传播网络等融合投射到特征空间中。
三是多角度判断，AI可以从单一方面（如内容、用户、传播）给出可信度，也可以全面观察，给出综合所有信息的可信度，及时帮助人们“揪出”可信度不高的信息。
结合专家经验辨别虚假商品
曹娟介绍，目前除了鉴别虚假新闻、虚假图片，AI虚假检测技术还可以应用在对虚假商品的检测上，如基于视觉信息技术鉴定一些高档商品的真伪。
近日，中国科学院计算技术研究所与国内某奢侈品电商宣布共建联合实验室，探索智能鉴定和智能内容分发、在线鉴定商品业务等内容。那么，AI如何对商品，如包、鞋辨别真假;在识别假货方面，AI可替代专家吗？
“与人识别假货相比，在强度、效率等方面，AI有着突出表现。例如，一般识别假LV包的专家，工作一天只能鉴定五六个包，而AI筛查一个包仅需几分钟。实际操作中，AI先在大量筛选中发现异常情况，报警示错，再由专家来做进一步甄别。即以AI技术打假为主、以人工审核为辅，AI还不能替代专家。”曹娟说。
曹娟表示，虚假商品检测可形式化为异常检测问题。正品样本往往量很大，但仿品样本量很小，甚至为零。这时候，只能对大量正品进行建模表示，然后对待检测样本，要看它与正品相比是否存在异常。但单纯的数据学习是困难的，鉴别中还要结合鉴定专家的经验知识，以引导模型学到快速定位异常区域的能力;同时，模型通过数据驱动发现的视觉规律，也会反馈给专家。因此，这是一个专家和模型相互学习、迭代提高的过程。
人们常说“流言止于智者”，要想不被网上的流言和谣言盅惑、伤害，首先需要对其进行科学甄别，而时下人工智能正在尝试担任这一角色。那么，在打假一线AI技术如何做到去伪存真？这样的“本领”可应用在哪些领域？
海量资讯发布，传统识谣模式受限
虚假信息的产生主要有两类动机：一类是利益驱动，2018年发表于《科学》的研究发现，要达到相同的传播深度，虚假信息的速度是正常信息的20倍;另一类是政治驱动，在现有互联网经济中，高效传播代表着高额经济价值，人工智能技术会被不法分子用来左右公众对于政治的认知和判断，从而控制舆论，威胁政治安全。
为了减少虚假信息，有必要对网络新闻进行认证。但大型资讯聚合类平台每天的新闻发布量一般在50万条以上，显然完全依靠人工认证是不现实的，面向公众，亟待建立高效的AI识谣平台。
据了解，目前国内已有的主要识谣、辟谣平台基本还是依靠专家识别模式，其存在一定的问题：发现线索主要依赖用户举报，数量有限，时效性不强，往往是事件已造成负面影响才“后知后觉”;此外，新闻认证速度有待提高。Facebook统计，依靠专家辟谣的认证模式平均滞后3天，错失辟谣最佳时期;覆盖类别受限，专家只能在自身擅长的领域辟谣，领域专家库的多样性决定了人工辟谣平台的能力上限。
为提高识谣效率，目前中科院计算机研究所、阿里、腾讯等多家企业和机构已经开展了人工智能识谣工作。中科院计算所副研究员、博士生导师曹娟带领团队从2013年開始致力于开展基于人工智能技术的虚假信息检测研究，她介绍，AI识谣公众平台可自动及时发现可疑线索并进行认证，大大降低谣言可能带来的危害;通过机器学习算法辅助人工审核，仅需1分钟即能对疑似谣言事件发出预警;基于数据驱动的方法，平台还可不断挖掘出不同类别谣言的特性，实现对各种谣言地自动识别。
不过，需要指出的是，“虚假信息识别是一个高度复杂的问题，一方面是虚假的定义并不明确，需要不确定性建模;另一方面是标注很困难，需要小样本学习方法。目前，机器学习算法的准确率尚不足以完全取代人类，但已能够辅助人类更快更好地审核新闻。”曹娟表示。正如扎克伯格所说，“想要完全依靠AI审核内容，可能尚需5～10年时间”。
多模态、多层次、多角度揪出假新闻
“虚假新闻往往从选题、文字表述，到配图都呈现出较强煽动性：一般选题集中于社会热点或争议点;文字描述中情感激烈;配图具有视觉冲击力等。”曹娟剖析道。
曹娟介绍，目前，中科院计算所开发的辟谣平台已积累数万条假新闻信息，累计认证数十万次。通过平台积累的数据，目前可从新闻质量的角度把杜撰的新闻文本大致分为三类：一完全杜撰，往往是在真实存在的实体上编造情节;二半真半假，可能描述的前半段是真，后半段就展开不可靠的想像，或者一部分是真，但在关键情节上添油加醋;三旧闻新传、移花接木，事件本身可能存在，但发布者故意模糊化甚至篡改原事件中的时间、地点，让人误以为事情刚刚发生在当地。
除去文字造假，图片视频造假也越来越多。“我们将虚假新闻配图分为复用的过时图片、能引起歧义的误导性图片及篡改图片。假新闻通常呈现出新闻要素缺失、图像质量低、内容包含色情敏感广告等低俗信息，以及图文不匹配等特点。例如，有些假新闻中的配图会出现满屏弥漫冲天大火、公路凹陷深坑、被弃男童在垃圾废墟前嚎啕等画面。”曹娟描述道，“谣言更易形成病毒式扩散的趋势，而真实新闻的扩散速度和爆发度要温和许多。”
“从核心技术上，AI甄别谣言依赖于‘三多’。”曹娟说，一是多模态数据，谣言从发布、传播到被辟谣的生命周期中，可能会伴随产生文字、图片、视频、传播网络、参与用户属性等多种模态的数据，各模态数据均能不同程度指示谣言，例如谣言文字的情感倾向、图片的视觉冲击力、传播网络的结构属性等，但没有哪种模态的数据拥有独立完全的谣言指示能力，所以要尽可能获取不同模态的数据。
二是多层次表示，深度学习技术有强大的表示学习能力，经过神经网络结构和融合机制的设计，AI模型可以在面对众多意义、形式、结构都不同的模态数据时，综合不同层次数据，自动找出最有区分能力的表示组合，并将待甄别文章对应的文字、图片、传播网络等融合投射到特征空间中。
三是多角度判断，AI可以从单一方面（如内容、用户、传播）给出可信度，也可以全面观察，给出综合所有信息的可信度，及时帮助人们“揪出”可信度不高的信息。
结合专家经验辨别虚假商品
曹娟介绍，目前除了鉴别虚假新闻、虚假图片，AI虚假检测技术还可以应用在对虚假商品的检测上，如基于视觉信息技术鉴定一些高档商品的真伪。
近日，中国科学院计算技术研究所与国内某奢侈品电商宣布共建联合实验室，探索智能鉴定和智能内容分发、在线鉴定商品业务等内容。那么，AI如何对商品，如包、鞋辨别真假;在识别假货方面，AI可替代专家吗？
“与人识别假货相比，在强度、效率等方面，AI有着突出表现。例如，一般识别假LV包的专家，工作一天只能鉴定五六个包，而AI筛查一个包仅需几分钟。实际操作中，AI先在大量筛选中发现异常情况，报警示错，再由专家来做进一步甄别。即以AI技术打假为主、以人工审核为辅，AI还不能替代专家。”曹娟说。
曹娟表示，虚假商品检测可形式化为异常检测问题。正品样本往往量很大，但仿品样本量很小，甚至为零。这时候，只能对大量正品进行建模表示，然后对待检测样本，要看它与正品相比是否存在异常。但单纯的数据学习是困难的，鉴别中还要结合鉴定专家的经验知识，以引导模型学到快速定位异常区域的能力;同时，模型通过数据驱动发现的视觉规律，也会反馈给专家。因此，这是一个专家和模型相互学习、迭代提高的过程。