【摘 要】
：
提出了悟道·文澜的BriVL双塔模型。该模型利用6.5亿对互联网图文数据，通过自监督的任务来训练，是目前最大的中文通用图文预训练模型。同时，还提出了悟道·文澜的多语言多模态预训练单塔模型—MLMM。实验结果证明，这两个模型在多个国际公开数据集上均取得了最佳性能。设计了实验并讨论超大规模多模态预训练模型对文本编码、图像生成和图文互检带来的影响，以及文澜模型的落地应用与学科交叉成果。
论文部分内容阅读
提出了悟道·文澜的BriVL双塔模型。该模型利用6.5亿对互联网图文数据，通过自监督的任务来训练，是目前最大的中文通用图文预训练模型。同时，还提出了悟道·文澜的多语言多模态预训练单塔模型—MLMM。实验结果证明，这两个模型在多个国际公开数据集上均取得了最佳性能。设计了实验并讨论超大规模多模态预训练模型对文本编码、图像生成和图文互检带来的影响，以及文澜模型的落地应用与学科交叉成果。
其他文献
当前是我国人口结构转型的关键期，城市设计者需要关注儿童权益与儿童的健康成长，并以此为抓手，促进人口长期均衡发展，实现社会经济持续健康发展。通过梳理和阐述儿童友好型城市的定义及发展历程，以及国内儿童友好型城市在发展中遇到的困难与挑战，分析长沙、深圳、北京等国内儿童友好型城市在公共服务设施、公共空间、基础设施、运营机制等方面的优点及特点，以促进我国其他城市的规划建设不断优化。
随着化石能源危机、环境污染问题的日益加剧与飞速发展的人类社会经济形成的矛盾逐渐加深,如何解决这一矛盾将是未来能源系统研究的重点内容。综合能源系统作为一种能够紧密耦合多能流网络的新型能源系统,可以通过多种异质能源的双向转换实现“多能互补、源网荷协同”;综合需求响应作为传统电力需求响应在能源互联网背景下的衍生,是实现系统负荷削峰填谷、激发负荷柔性的重要手段。因此,研究综合能源系统模型的搭建及其优化运行
平纹和斜纹编织复合材料在低能量冲击载荷下其内部结构会遭到破坏,从而对材料的整体性能产生消极影响。并且,平纹和斜纹结构由于具有不同的纤维束相互交织方式,因此在受到相同载荷作用下时所展现出的性能也会有所差异,加之平纹和斜纹编织复合材料内部构造繁杂,单一尺度的模型难以充分描叙其损伤失效行为。所以本文构建了囊括微观、细观和宏观的多尺度框架来探究平纹和斜纹编织复合材料低速冲击性能。微观尺度上构建了六方分布的
滑动轴承作为重要的支撑零件广泛应用于旋转机械中,重型设备中轴承往往工作在大偏心工况下,油膜厚度减小,当与轴承表面粗糙度大小相近时,极易出现粗糙峰的接触,从而使轴承处于混合润滑状态。与此同时,轴承弹性变形及润滑油热效应也会影响润滑状态及摩擦特性。因此,有必要对大偏心工况下滑动轴承混合润滑热弹流特性开展研究,为重载滑动轴承设计提供有益的参考。本文以大偏心工况下滑动轴承为研究对象,对其润滑特性开展系统的
国家“双碳”战略目标的制定与实施,推动了能源行业的绿色转型,促进了分布式发电技术及主动配电网技术的快速发展,使得分布式电源在电网中所占比例得到显著提升。为应对分布式电源大规模接入配电网引起的运行风险,同时改善系统运行环境,亟需对主动配电网的分布式电源优化配置问题进行研究。本文在分布式电源不确定性分析及优化配置必要性验证的基础上,针对风电、光伏两种类型分布式电源,开展了对于分布式电源准入容量和系统最
随着科技发展、工程应用要求的提高,传统材料在一些重要领域已逐渐被复合材料所代替。复合材料具有高强度、高刚度、高模量、轻质高强、可设计性好等优点,使复合材料得到越来越广泛的应用。环氧树脂基碳纤维平纹机织增强复合材料是一种常见的二维编织纤维增强复合材料,相比于传统的单向纤维增强复合材料,机织材料有更好的面内性能、更高的比刚度和比强度。复合材料在制备、运输、装配、服役等过程中,不可避免会受到一些小能量的
光伏发电是环境友好型电源,具有诸多优点,近年来在微电网中得到了快速发展。然而,光伏发电自身无惯量,若大规模并入微电网将会降低系统的频率响应能力。因此,针对微电网频率波动的问题,开展光伏发电参与微电网频率调节的控制策略研究具有重要意义。本文的主要贡献如下:1)在光伏发电最大功率点追踪研究中,针对传统最大功率点追踪算法存在控制误差大、收敛速度慢和输出功率易振荡等问题,提出了基于滑模控制的光伏最大功率点
随着电压等级的不断提升,电气设备绝缘面临着更加恶劣的运行环境,因电树枝而导致的绝缘材料失效问题日益严重。环氧树脂具有耐高温,固化收缩率小和稳定的耐化学腐蚀等性能,被广泛应用于干式变压器、互感器、换流变压器套管、电力电子设备封装等电气设备的绝缘。而环氧树脂在高频和高压的作用下容易产生电树枝,进而导致绝缘材料提前击穿失效。因此,深入研究环氧树脂的电树枝特性对以环氧树脂为绝缘材料的电气设备的安全稳定运行
近年来随着计算机视觉技术的快速发展,小运动目标检测已经成为了计算机视觉的重要研究方向。在自然环境中检测小运动目标是许多生物最重要的能力之一,例如寻偶、捕猎等行为。其中视觉结构相对简单的蜻蜓是捕猎成功率最高的物种之一,因此对昆虫视觉通路的研究是启发解决小运动目标检测的重要途径。在昆虫视觉系统为模型的研究中,昆虫启发的经典目标检测算法（Insect-Inspired Tracker,IIT）以“基本小