日日新生什么意思(日日生生)

（2023年7月17日，上海）生成式人工智能风靡全球。国内外大型AI模型日新月异。人工智能正在加速走进日常生活。如何在科技蓬勃发展的同时引导科技应用积极发展？在今年的世界人工智能大会上，商汤科技给出了这个问题的答案：聚焦实际问题，用可信AI基础设施为大模型的发展保驾护航。

继4月发布自主研发的大型模型系统后，商汤科技快速升级迭代，推出全面升级的商汤SenseNova。与商汤科技一同发布的还有值得信赖的人工智能基础设施SenseTrust。SenseTrust包含一套可信的AI治理工具，完整覆盖数据、模型、应用治理环节。可以为商汤科技自身及行业提供道德安全的二维一体化检测加固解决方案，推动安全可信的人工智能产业发展。生态。

活动上，商汤科技副总裁、AI伦理与治理委员会主席张望表示：技术大规模落地有两个关键条件。一是成本低、应用广泛，二是可靠、值得信赖。安全。基于大算力的大型模型和通用人工智能加速了条件1的满足，但也带来了技术滥用风险的大规模升级。如何保证人工智能系统的安全可信，已成为行业乃至全社会面临的紧迫问题。为此，针对新时代人工智能的风险特点，商汤科技打造了可信人工智能基础设施SenseTrust，覆盖数据处理、模型开发、应用部署等人工智能系统全生命周期，帮助创建值得信赖的大型模型。

活动期间，商汤科技还正式发布人工智能伦理与治理年度报告——《商汤大模型伦理原则与实践白皮书》。该白皮书由商汤科技智能产业研究院和上海交通大学计算法与人工智能伦理研究中心联合编写。白皮书以大模型发展为背景，以生成式人工智能治理为主题，以SenseNova大模型系统治理实践为案例，提出了生成式人工智能治理的核心原则和三大治理理念。维度对齐技术伦理模型。系统呈现了双方在AI治理领域的观点。

范式变革引发新挑战，行业亟需新时代技术治理方法

大模型时代，以基础模型+微调为特征的生产范式，大大降低了开发成本和应用门槛。人工智能应用场景更加开放、数据形态更加多样、应用领域更加广泛。相应地，技术滥用和风险源呈指数级增长，风险评估标准更加难以界定，潜在影响正在大规模蔓延。在应用层面，幻觉现象、数据中毒、混淆攻击、感应攻击等现实风险挑战相继出现。无论是未来生命研究院发布的公开信，还是国内外一系列监管政策的出台，全球各方都在高度关注人工智能的风险挑战。

大模型时代：生产范式变革引发AI风险范式转变

SenseTrust打造大模型时代的压舱石

作为行业领先的人工智能公司，商汤科技一直高度重视人工智能伦理和治理，对技术创新和技术治理并重。早在2019年，商汤科技就同时启动了两项前瞻性任务，一是大模型研发，二是AI伦理与治理。此前，商汤科技已形成较为完善的人工智能伦理与治理组织架构、管理体系、审核机制、工具体系、伦理文化建设体系和外部生态网络，并得到了业界的广泛认可。

新时代，技术加速创新，应用日新月异。传统的运营治理方式需要相应升级，以适应快速发展和无限扩张的治理需求。商汤科技融合长期的伦理治理思维和技术能力，根据当前生成式人工智能的风险特征，构建可信人工智能基础设施——SenseTrust，包括数据治理、模型治理、应用治理等技术工具，可以提供数据处理和模型训练。模型部署、推理服务等全面、全链路的可信AI检测和加固工具箱，为大模型时代打造镇流器。

SenseTrust——商汤可信AI基础设施应用图

在数据层面，SenseTrust可以提供数据脱敏、数据解毒、数据合规审查、偏差评估等治理工具。例如，在模型训练数据的预处理中，SenseTrust提供的数据解毒工具可以检测数据源是否含有后门、破坏等有毒数据，并提供解毒解决方案。对显性、隐性等不同形式毒素的检出率大于95%，结合数据清洗和对抗性防御方法可以实现有效解毒。目前，SenseTrust数据脱敏工具已在数据标注、城市管理、自动驾驶相关业务场景落地。

在模型层面，SenseTrust可以根据传统判别模型和生成模型的不同特点，提供标准化和定制化的模型评估能力。对于判别模型，可以为活体识别、图像分类、目标检测等商业需求提供一键评估；对于生成模型，SenseTrust构建了百万级测试数据集，涵盖30多个准伦理和安全评估维度，可以评估对抗性安全、鲁棒安全、后门安全、可解释性和公平性。为了进一步提升模型的风险防范能力，SenseTrust还可以提供AI防火墙，从源头过滤对抗样本，综合检出率高达98%。

在应用层面，商汤科技在数据保护、数字取证、防伪等技术领域拥有深厚的积累，并逐步形成了基于生成、防伪、溯源三位一体的综合解决方案。例如，针对各方都非常关心的AIGC相关权威溯源和防伪问题，SenseTrust开发了数字水印解决方案，可以在不影响载体使用价值的情况下将特定信息嵌入到数字载体中，使其成为数字化载体。被别人利用的可能性较小。感知只能通过特定的解码器和专有密钥提取，可以支持多模态数据。数字水印技术已服务SenseMirage、SenseAvatar等多款产品，以及内容创作、大数据等领域的客户。

在今年的世界人工智能大会上，商汤科技全新SenseNova大模型系统再次升级。针对系统中的一系列应用平台，基于传统判别式模型治理经验和生成式人工智能的风险特征，商汤科技利用SenseTrust工具系统进行了一系列评估，并进行持续跟踪测试，不断完善风险防御能力。

SenseTrust可进行全方位、全链路的可信AI检测和加固

同时，商汤科技还积极输出大模型和生成式人工智能的治理实践成果。例如，SenseTrust综合防伪解决方案已应用于十余家银行的安全系统，拦截各类灰黑产品攻击的成功率超过行业同类产品20%以上，有效防止黑灰产品盗用身份。支付欺诈和其他网络欺诈。此外，模型体检、数字水印、主动中毒防护等相关技术也通过商汤人工智能安全治理开放平台对外开放。