今年4月詹乐霞组织一场与学者、政策制定者和行业领袖的研讨会，关注生成式人工智慧（generative AI）在数据隐私、自动决策、错误讯息中的风险，以及在医疗保健中的作用。
生成式人工智慧不同于传统的人工智慧，它可以创造新内容，如文字、图像和音讯，这既带来了机遇，也带来了挑战和风险。
其风险包括，广泛的可访问性和多功能性可能导致资料隐私泄露、错误资讯和偏见等问题。例如，在医疗保健中，尽管人工智慧在疾病检测、公共卫生监测和精准医疗方面取得了重大进展，但是人们对隐私和有偏见的自动化决策风险表示担忧。
此外，风险还在于生成信息的出错上。在行政效率上，人工智慧可以透过自动化编码和翻译等任务来提高生产力，但也带来了与错误讯息和资料安全相关的风险。
研讨会同时强烈呼吁人工智慧的透明度，即更清楚地揭露人工智慧的使用时间以及资料管理方式，包括告知消费者人工智慧的互动和资料保护措施。
研讨会强调了制定监管框架以管理人工智慧影响的重要性。与会者讨论了现有的歧视、隐私和资料安全法律作为解决潜在危害的工具，并一致认为政府需要加强监督；领导人也强调了制定平衡创新与道德考量和隐私保护的法规的重要性。他们强调需要继续讨论和实施立法行动，以确保人工智慧技术在降低风险的同时造福社会。
詹乐霞在一份声明中说，随着纽约持续保持在技术上的领先地位，她将继续致力于制定有效的人工智慧法规，确保创新符合公共安全和隐私保护的要求。
