摘要:近年来, 人工智能技术突飞猛进, 人工智能系统已经渗透到人们生活中, 成为人们生活中不可或缺的一部分. 然而, 人工智能系统需要数据训练模型, 数据扰动会对其结果造成影响. 并且随着人工智能系统业务多样化, 规模复杂化, 人工智能系统的可信性愈发受到人们的关注. 首先, 在梳理不同组织和学者提出的人工智能系统可信属性基础上, 提出人工智能系统的9个可信属性; 接着, 从数据可信性、模型可信性和结果可信性分别介绍现有的人工智能系统数据、模型、结果可信性度量方法, 设计人工智能系统可信证据收集方法. 其次, 总结当前人工智能系统的可信度量评估理论与方法. 然后, 结合基于属性的软件可信评估方法与区块链技术, 建立一个人工智能系统可信度量评估框架, 包括可信属性分解及可信证据获取方法、联邦式可信度量模型与以及基于区块链的人工智能系统可信度量评估架构. 最后, 讨论人工智能系统可信度量技术面临的机遇和挑战.

摘要:近年来，软件可信一直是人们争论的焦点.一种比较共识的观点认为，软件可信是软件行为符合预期的程度.质量形成于过程，显然，建立质量信心的证据也散布于过程.软件开发过程中，主体、行为和各种保障手段则是建立软件可信的基本依据.基于证据的决策和管理是现代质量理论的核心，基于证据、数据驱动的软件工程都是试图从客观数据的角度去解决问题.在国家自然科学基金等计划的支持下，从过程保障的角度提出了软件过程可信度模型，其中，证据作为建立软件可信、支持可信评估的基础要素，是模型非常重要且基础的组成部分.主要研究该模型中的证据体系，遵循完整性、必要性、兼容性和可持续性这4项原则，基于过程管理的基本要素，通过调研以及与CMMI等软件过程参考模型的对接来提炼、定义和质证模型中的可信证据，使证据具备良好的公信力和可比性；同时，增加了部分目前其他模型都没有涉及的证据来刻画对软件过程的可信增强，从而建立了一个从可信实体、可信行为、可信制品这3个目标进行可信保障、并覆盖软件过程全生命周期的证据体系.该证据体系科学、客观并具有良好的公信力，结合可信度模型的其他部分，可以实现基于证据的、自底向上的软件过程可信评估，可供软件组织广泛采用.

摘要:软件可信已经是一个迫在眉睫的重要问题，但对软件可信性的评估却一直没有一个系统且客观的标准.一些研究工作从可信证据的采集渠道入手，譬如认为有第3方测试的证据，其可信级别就高一些，而若有用户的使用反馈则可信级别就更高.这些工作在可信的客观性方面做了很好的贡献.但可信其实是一个系统性的问题，而且质量形成于过程，其证据的充分必要程度以及对必要开发过程的覆盖程度等非常关键.基于软件开发过程，从过程的实体、行为以及制品3个方面提取软件可信的证据，建立了由37个可信原则、182个过程可信证据和108个制品可信程度证据组成的软件过程可信度模型，并给出基于该模型证据的软件过程可信评估方法，试图从开发过程的可信程度来建立软件产品的可信的信心.

摘要:安全苛刻系统的可信性需求迫切,支持可信性评估的数据主要来自于测试.为了保证测试数据的可靠性和正确性,特别是对安全苛刻系统这类复杂系统,手工测试实际不可行.研发测试语言是实现自动化测试的有效途径,也是安全苛刻系统自动化测试发展的必然趋势.针对安全苛刻系统通用测试语言应独立于具体设备包括被测安全苛刻系统、测试设备的应用需求,对安全苛刻系统测试中的测试设备协同语句展开研究.针对安全苛刻系统测试中测试设备协同任务中的高阶性、实时性等特点,通过给出测试语言中测试设备协同相关类型、设备协同表达式,定义测试设备协同语句,并通过设备协同表达式求值定义设备协同语句的操作语义规则.最后,对语句的正确性给出相关证明,从而支持安全苛刻系统测试过程中测试设备协同过程的动态性和开放性,支持安全苛刻系统测试语言的通用性.

摘要:安全攸关软件的可信性关乎生命安全和财产保全,因此,分析评价软件可信性是否符合用户的预期(即软件可信评估)至关重要.软件可信评估从主观和客观两个方面度量软件的质量,对软件生产和应用有着重要的意义.综述了可信评估管理中涉及到的标准、模型和工具,而非关注软件度量本身.首先分析对比了软件可信性、可信评估的定义,并在研究了与可信性密切相关的软件质量的联系与区别之后,从相关国际标准、评估涉及的模型(包括质量属性模型、证据模型、分级规范等)以及软件工具支持等方面综述了软件可信评估研究工作.并且区分了这些方面中领域相关、领域无关的不同之处.目前软件可信评估已取得了一定的理论成果,并开发了若干工具辅助进行可信评估,但仍需在通用性、可伸缩性等方面有所加强.

摘要:如何为用户提供一个可证明、可验证的可信运行环境，是云计算模式面临的重要问题.提出一种动态的用户运行环境可信性验证机制TCEE（trusted cloud execution environment）.通过扩展现有可信链，将可信传递到用户虚拟机内部，并周期性地对用户运行环境的内存和文件系统进行完整性验证.TCEE引入可信第三方TTP（trusted third party），针对用户虚拟机运行环境的可信性进行远程验证和审计，避免了由用户维护可信验证的相关信息和机制，同时也能够避免云平台敏感信息的泄露.实现了基于TCEE的原型系统，对TCEE的有效性和性能代价进行定量测试和评价.实验结果表明，该机制可以有效检测针对内存和文件系统的典型威胁，且对用户运行环境引入的性能代价较小.

摘要:可信计算的链式度量机制不容易扩展到终端所有应用程序,因而可信终端要始终保证其动态运行环境的可信仍然较为困难.为了提供可信终端动态运行环境客观、真实、全面的可信证据,设计并实现了一个基于可信平台模块(trusted platform model,简称TPM)的终端动态运行环境可信证据收集代理.该代理的主要功能是收集可信终端内存、进程、磁盘文件、网络端口、策略数据等关键对象的状态信息和操作信息.首先,通过扩展TPM 信任传递过程及其度量功能保证该代理的静态可信,利用可信虚拟机监视器(trusted virtual machine monitor,简称TVMM)提供的隔离技术保证该代理动态可信;然后,利用TPM 的加密和签名功能保证收集的证据的来源和传输可信;最后,在Windows 平台中实现了一个可信证据收集代理原型,并以一个开放的局域网为实验环境来分析可信证据收集代理所获取的终端动态运行环境可信证据以及可信证据收集代理在该应用实例中的性能开销.该应用实例验证了该方案的可行性.

摘要:建立基于连续过程的推荐信任模型,描述间接信任这种最复杂的信任关系,在保障开放环境的安全和开放系统的可靠运行方面有着重要意义.通过量化间接信任影响因素,运用分级剪枝方法过滤推荐信息,将结果作为正态过程的采样样本,计算获取后验分布期望的Bayesian 估计值.在此基础上,详细阐述信任动态演化的过程,深入探讨信任度和可信度之间的关系,给出了命题及其数学证明.实验数据表明,模型提高了抵御恶意攻击的能力,得出了更加有效和精确的结果,与相关命题的数学推导相一致.

摘要:提出了一种支持软件资源可信评估的框架,并分析了该框架涉及到的技术,如证据收集、证据信任管理和可信评估等.阐述了该框架在北京大学软件资源库中的设计决策和实现方案,并给出一个详尽的实例分析.

摘要:扩展了已有的软件可信性证据模型,引入了运行时软件可信证据,从而提供了更为全面的软件可信证据模型.为了提供客观、真实、全面的可信证据,提出了一种基于可信计算技术的软件运行时可信证据收集机制.利用可信平台模块(trusted platform module,简称TPM)提供的安全功能,结合“最新加载技术(late launch)”,在操作系统层引入了一个可信证据收集代理.此代理利用TPM,可以客观地收集目标应用程序的运行时可作为软件可信证据的信息,并保障可信证据本身的可信性.该可信证据收集机制具有良好的可扩展性,能够支持面向不同应用的信任评估模型.基于Linux Security Module,在Linux中实现了一个可信证据收集代理的原型.基于该原型,分析了一个分布式计算客户端实例的相关可信属性,并且分析了可信证据收集代理在该应用实例中的性能开销.该应用实例验证了该方案的可行性.