摘要:深度神经网络目前在许多任务中的表现已经达到甚至超越了人类的水平，但是其泛化能力和人类相比还是相去甚远.如何提高网络的泛化性，一直是重要的研究方向之一.围绕这个方向开展的大量卓有成效的研究，从扩展增强训练数据、通过正则化抑制模型复杂度、优化训练策略等角度，提出了很多行之有效的方法.这些方法对于训练数据集来说都是某种全局性质的策略，每一个样本数据都会被平等的对待.但是，每一个样本数据由于其携带的信息量、噪声等的不同，在训练过程中，对模型的拟合性能和泛化性能的影响也应该是有差异性的.针对是否一些样本在反复的迭代训练中更倾向于使得模型过度拟合，如何找到这些样本，是否可以通过对不同的样本采用差异化的抗过拟合策略使得模型获得更好的泛化性能等问题，提出了一种依据样本数据的差异性来训练深度神经网络的方法，首先使用预训练模型对每一个训练样本进行评估，判断每个样本对该模型的拟合效果；然后依据评估结果将训练集分为易使得模型过拟合的样本和普通的样本两个子集；最后，再使用两个子集的数据对模型进行交替训练，过程中对易使得模型过拟合的子集采用更强有力的抗过拟合策略.通过在不同的数据集上对多种深度模型进行的一系列实验，验证了该方法在典型的分类任务和细粒度分类任务中的效果.

摘要:随着分布式多智能体系统应用领域和系统规模的不断扩大,网络特性已成为影响系统性能的一个重要因素.通过研究和分析复杂网络特性对大规模分布式多智能体系统协同控制的影响,对多智能体系统性能的影响做出系统性分析,同时为提出大规模多智能体组织结构的优化算法提供依据.主要针对随机网络、小世界网络、网格网络和无尺度网络这4 种典型复杂网络特性,从理论和仿真两方面进行分析.在理论方面,通过基于马尔可夫链的信息传输过程在不同网络结构下的建模,对比分析了信息无偏随机游走模型和智能决策模型下的传输效率.在仿真建模中,主要从智能体间信息传输效率、不同应用领域中集成协同控制效率、对网络故障恢复的影响这3 个典型的多智能体系统协同控制应用对比分析复杂网络特性对系统性能的影响.研究结果表明,复杂网络特性如小世界和无尺度特性可以在相同的控制策略下形成明显的性能差异,如果设计合理的控制算法,复杂网络结构将有助于多智能体系统性能的提升.