新加坡框架产生发展现状如何

随着人工智能技术的迅猛发展，新加坡在生成式人工智能的治理方面取得了显著进展。2024年5月，新加坡政府发布了《生成式人工智能治理模型框架》，该框架从问责、数据、可信研发和部署、事件报告、测试和保证、安全、内容来源、安全与对齐研发以及人工智能促进公益等9个维度全面审视生成式人工智能的开发和应用。这一框架不仅为新加坡的AI发展提供了清晰的指导原则，也为全球AI治理提供了宝贵的参考。

在问责机制上，《框架》区分了事前责任分配和事后“安全网”的创新路径。事前明确了人工智能产业链上各方的责任，而事后则通过开发商承诺承担责任、产品损害责任与无过失保险的结合，确保风险发生时能够获得救济。这种三层防护网的设计，旨在为用户提供可预期且可解释的问责空间，同时促进技术创新。

数据作为生成式人工智能的核心要素，其质量直接影响模型输出的质量。《框架》强调了数据可信、可访问、高质量的重要性，并建议使用可信的数据源来保证数据质量。此外，还提出了数据透明度和保护机制，要求建立健全的数据保护机制，防止数据泄露和滥用，保护用户隐私和知识产权。

在可信开发和部署方面，《框架》鼓励采用来自人类反馈的强化学习等微调技术减少幻觉和错误，并在披露阶段使用“食品标签”形式公开信息。这种披露方法能够将数据来源、模型风险、安全措施等用户关心的主要问题一一列举，反向促进行业安全基准的统一和实现。

为了提高生成式人工智能的安全性，《框架》提出了安全设计与安全保障两类安全举措。内容来源方面，建议使用数字水印和加密出处等技术方法标记人工智能生成合成内容；与出版者、分发平台等内容生成的关键方开展合作以嵌入水印；增进用户对数字水印识别、验证的了解，并提供可验证的工具。这些措施有助于公众及时辨别人工智能生成合成内容，提高对于造假信息的认知能力。

在推动生成式人工智能促进公益方面，《框架》从技术获取、公共服务提供、劳动力和可持续性四个关键点提出了具体路径。例如，通过民主化使用提高公共部门的采用率、提高工人技能以及可持续地发展人工智能系统等方式来促进公共利益。

综上所述，新加坡发布的《生成式人工智能治理模型框架》是一个全方位指引手册，它不仅体现了“以人为中心”和“透明度”两大原则的实践应用，也为全球范围内的人工智能治理提供了有益的借鉴。未来随着技术的发展和社会的进步相信会有更多类似的框架出台以规范和支持人工智能的发展。