新华社新加坡7月21日电　记者手记｜AI时代，数据使用如何“知情同意”

  新华社记者舒畅

  试想一下：一家服装公司，拥有你的姓名、交易记录以及长期消费行为数据。如今，这家公司决定开发生成式人工智能模型，并利用用户数据训练模型，提升商业竞争力。它需要重新征求你的同意吗？

  在新加坡监管机构看来，答案是肯定的。

  新加坡个人资料保护委员会20日发布《生成式人工智能个人数据使用咨询指导原则》，这是其中一个案例。该指导原则基于新加坡《个人资料保护法令》，讨论机构在开发、部署生成式人工智能，以及系统投入使用后的不同阶段，如何透明、负责任地使用个人数据。

  这一案例背后，是人工智能时代数据治理面对的一个难题：当数据用途不断扩展，用户如何获得真正有意义的知情同意？

  新加坡数码发展及新闻部长杨莉明20日在新加坡数据节开幕式上发布该指导原则时表示，数据商业价值不断提升，可信赖的数据治理需要明确责任机制。如果个人数据被用于开发或改进生成式人工智能模型，机构应以清晰、直接的方式说明，而不能依赖宽泛笼统的描述。

  不过，很多时候，问题并不是用户没有“同意”，而是不知道自己究竟同意了什么。

  随后的论坛上，新加坡国立大学人工智能治理教授西蒙·切斯特曼做了一个现场互动：“过去一年里，如果你曾经点击过同意某些服务条款，允许对方使用你的数据，请举手。”

  不少观众举起了手。

  “如果你读完了所有这些条款，请继续举手。”

  一些观众放下了手，现场响起笑声。

  “你们有几位在撒谎。”切斯特曼说，即使是专家，通常也不会阅读那些冗长复杂的条款。

  如何让用户充分知情？委员会提出，只使用“您的数据将用于新产品开发”这类笼统表述是不够的，机构应提供“人工智能专项通知”，明确说明数据使用目的、涉及的数据类型、使用方式，以及用户如何拒绝或撤回同意。指导原则建议，社交媒体平台如果希望利用用户数据开发生成式人工智能模型，可以同时更新隐私政策、制作专门说明页面、在平台内弹窗提醒，并通过邮件通知用户，同时提供拒绝的渠道。

  委员会同时指出，即使个人数据已被用于生成式人工智能开发，用户仍有权要求查阅、更正自己的数据。但该机构也承认，实现这一要求并不容易。生成式人工智能模型通常依赖海量训练数据，这些数据并不一定以传统数据库形式保存，删除已经进入模型的信息，在技术上仍存在挑战。

  切斯特曼说，互联网早期，人们面对的数据更多是“静态”的：用户搜索信息、获取内容。随着社交媒体兴起，数据开始记录用户与谁互动、个人偏好等更丰富的信息。未来，人工智能不仅收集数据，还可能基于数据进行推断，而这些推断可能超出个人主动提供、原本希望被使用的信息范围。数据治理正从单纯依赖用户同意的模式，转向加入更深层次的授权机制和问责要求。

  新加坡星展银行首席数据与转型官尼潘利明也表示，过去企业主要关注数据集本身是否合法获取，但现在需要关注的是不断流动、不断变化的数据。

  随着人工智能进一步发展为能够自主执行任务的智能体，知情同意将面临新的挑战。

  美国谷歌公司政府事务与公共政策副总裁马卡姆·埃里克森说，智能体的发展带来一个悖论。一方面，用户希望智能体成为可信赖的助手，能够跨应用理解、整合信息，尽可能更高效地操作；另一方面，在涉及用户安全的关键时刻，又需要增加相关授权流程，让用户能够介入判断。

  新加坡资讯通讯媒体发展局可信人工智能集群总监署长李婉诗提到，最近测试发现，如果给智能体设定一个目标，它可能会“尽一切可能实现目标”，并在过程中无意泄露敏感数据，这说明真实环境测试的重要性。面对人工智能快速发展带来的新问题，监管机构和企业需要共同探索下一步方向。