随着深度学习神经网络在各领域的广泛应用,数据集和神经网络模型规模越来越大,一个数据集可达百万甚至千万级文件规模,且大部分为几十KB或几百KB的小文件。针对海量小文件进行大规模深度学习训练是深度学习技术发展的重要趋势。深度学习训练任务具有I/O密集型访问、随机访问、迭代扫描等特征,在短时间内会产生海量I/O请求。传统的分布式存储系统主要面向大文件存储,无法应对深度学习训练场景的大量并发访问。现有分布式缓存系统在面向海量小文件存储与管理时主要采取文件合并、共享缓存、以及自适应缓存替换算法实现高性能缓存。但未考虑到深度学习训练任务的随机访问、迭代扫描等特征,目前仍然存在以下问题:（1）随机访问导致的IO性能瓶颈问题。现有的小文件合并方法与缓存策略主要为了解决海量小文件的存储与管理问题,并未考虑深度学习训练场景随机访问特性,仍然会产生海量I/O请求从而造成I/O性能问题。（2）迭代扫描导致缓存命中率低的问题。现有的缓存替换算法大多针对近期性或频率性特征突出的负载,通过保存热点数据从而提升缓存性能。但深度学习具有迭代扫描特征,若采用现有缓存方法,缓存区会保存大量过期数据,从而导致数据读取时缓存命中率低。本文针对上述问题,对现有分布式缓存方法进行改进,具体工作如下:（1）面向深度学习训练场景,针对海量小文件随机访问导致的I/O问题,本文基于文件合并,以及分布式二级缓存思想提出了DDCache（Distributed Dual Cache）方法。该方法支持深度学习训练的随机访问场景。首先在数据准备阶段本文提出拟合batch size特征的文件合并方法,以提升I/O性能。其次,在数据shuffle阶段提出基于chunk缓存状态的双层shuffle策略,将shuffle转移至缓存层,解决海量小文件随机读取的I/O性能瓶颈问题。最后,在深度学习任务训练阶段,本文提出二级缓存策略和异步预读,以加速缓存数据访问并提升缓存命中率。经实验验证,DDCache方法对比Alluxio系统传统文件读取方法,显著提升了I/O性能,不仅减少了深度学习训练的迭代时间,而且提高了缓存命中率。（2）面向传统工作任务与深度学习训练任务混合执行的场景,针对深度学习迭代扫描导致的缓存命中率低的问题,本文基于分区元数据管理,以及自适应分区空间大小思想,提出PACRA（Partition Adaptive Cache Replacement Algorithm）自适应缓存替换算法。首先,提出基于自适应分区的缓存数据管理方法,实现缓存分区数据管理与动态可变分区大小。其次,提出两种基于分区数据管理的抗扫描子策略:PLRU（Partition Least Recently Used）和PLFU（Partition Least Frequently Used）,以适应混合任务场景。最后,采用基于缓存缺失的遗憾最小化策略管理PLRU和PLFU,实现自适应缓存管理。经实验验证,PACRA缓存算法对比Le CAR算法、ARC算法、LRU策略和LFU策略,提升了缓存命中率,同时对比Le CAR算法减少了缓存计算时间。本文设计并实现了基于文件合并的分布式二级缓存方法DDCache、与基于任务负载特征的自适应分区缓存算法PACRA。在面向深度学习训练的场景下,解决了随机访问导致的IO性能瓶颈问题与迭代扫描导致缓存命中率低的问题。实现了面向深度学习训练场景的高性能缓存。