研究

总览工作组研究成果研究专家参与调研

分类筛选

全部研究成果

《基于大语言模型（LLM）的系统安全：关键授权实践》

2025.04.24

本报告概述了将 LLM作为更广泛系统组件集成的系统设计模式和最佳实践，涵盖了通过提供额外的上下文或让模型进行推理并与其他组件和外部服务交互的高级模式。每个设计模式包括建议、注意事项和常见误区。这些要素有助于系统架构师在设计决策时做出权衡。

查看详细

《AI模型风险管理框架》

2025.04.09

《AI模型风险管理框架》探讨了模型风险管理在AI模型应用任开发、部署和使用方面的重要性，适用于对该主题有兴趣的读者群体，包括直接参与AI开发的从业者以及专注于AI治理的业务和合规监管机构。本报告强调了与AI模型相关的内在风险，如数据偏见、事实性错误或信息不相关（通常被称为“幻觉”或“虚构”）、以及潜在的滥用行为。同时，提出了一个全面的MRM框架的需求，该框架基于四个相互关联的支柱：模型卡片（ModelCards）、数据手册（DataSheets）、风险卡片（RiskCards）和场景规划（ScenarioPlanning），上述支柱协同工作，通过持续的反馈循环来识别和减轻风险，并改进模型开发与风险管理。具体而言，模型卡片和数据手册为风险评估提供信息，风险卡片则指导场景规划，场景规划进一步优化风险管理和模型开发。

查看详细

《从原则到实践：在动态监管环境下负责任的人工智能》

2025.01.09

《从原则到实践：动态监管下负责任的人工智能》旨在为各组织提供基本知识，帮助其从根本上了解自身的现状，并为他们在快速变化的负责任、合规地使用人工智能方面的需求提供指导。本文探过了部分现行法规，并阐述了在地区、国家和国际层面开发和部署负责任的人工智能的注意事项和最佳实践。

查看详细

《AI韧性：AI安全的革命性基准模型》

2024.12.16

报告详细讨论了AI 治理与合规的重要性，并分析了AI 技术的发展历史和当前的训练方法。通过一系列实际案例研究，揭示了AI 失败的教训，并针对汽车、航空、关键基础设施等行业的监管挑战进行了深入分析。报告提出了一个受生物进化启发的AI 韧性基准模型，强调了多样性和韧性在AI 系统中的重要性，并给出了AI 韧性评分的标准。

查看详细