最近，复旦大学附属华山医院感染科主任张文宏在AI技术篡改下“被带货”一事，再次引发了人们对于AI技术滥用的热议。在今年的上海两会上，上海市人大代表、上海合合信息科技股份有限公司董事刘忱，针对AI滥用带来的社会问题，进行了专项调研，并给出了自己的建议。
代表调研：AI滥用带来诸多社会问题
在调研中，刘忱发现，伴随着近年来人工智能技术（AIGC）的爆发式增长，我们的生活迎来了诸多便利的同时，也因为缺乏科技伦理的规范和引导，滋生了诸多隐患。
以近期备受关注的AI张文宏虚假带货为例，在流量和金钱的驱使下，不法分子利用AIGC技术，批量制造虚假的图片、视频、音频、炮制虚假新闻和谣言，严重的扰乱了舆论生态，滋生了“眼见不一定为实”的乱象，给社会信用体系带来了冲击。
一项全球范围内的调查显示，在来自世界各地的7000多位受访者中，有四分之一的成年人，经历过AI语音骗局，70%的受访者表示，他们难以分别克隆声音与真实人声。AI技术的滥用，无疑给不法分子盗取他人信息实施诈骗，提供了可能。
此外，部分企业过度收集个人信息，对不同人群进行标识分类，也可能滋生偏见和虚假信息，让AI技术在伦理上陷入困境。
需要依赖于大数据才能完善和形成AIGC模型，在训练过程中所使用的数据，很多是受版权保护的内容。目前，AIGC作品存在著作权归属不清的困境，其作品无法获得著作权的保护，阻碍了技术发挥创作价值。海量的摹写行为也稀释了作品权利人的独创性，威胁了他人的合法权益，对知识产权保护构成了挑战。
代表建议：多管齐下引导科技向善
针对以上调研结果，刘忱建议，可从构建治理机制、加强技术研究、优化伦理训练与数据、加强知识产权保护等方面多管齐下，引导科技向善，推动AIGC行业良性发展。
例如，在治理AIGC虚假新闻方面，刘忱建议，研究机构应落实行业标准。内容平台应利用数据模型，进行文本和图片等信息的内容检测，阻拦虚假信息的产生。内容创作作者也可使用数字水印等方式，实现内容真实性和完整性的溯源管理。
同时，可鼓励企业加大对AI防御与鉴伪技术的研发。建议设立专项资金，鼓励科技企业关注技术在AIGC虚假信息“主动防御”和“主动检测”领域中的应用。在“主动防御”方面，可利用数字水印实现AIGC合成内容溯源。在“主动检测”方面，可以引入AI欺诈检测与鉴伪技术，精准识别伪造内容，实时监测并应对 AIGC 欺诈行为，以技术防御和人工干预相结合的方式，筑牢安全防线。
在消除算法偏见方面，由于算法偏见的根源来源于数据。因此，因此，构建更加公正的数据集是解决算法偏见的根本方法之一。刘忱指出，在训练过程中，还应加强伦理训练，让 AIGC 生成内容更加符合社会伦理规范。
在知识产权保护方面，刘忱指出，可对发布内容性质作出盈利与非盈利的区分。非盈利内容需联合平台做好责任提示。盈利内容则应进一步明确AIGC知识产权的归属，细化侵权责任认定，加强数据知识产权保护，促进 AIGC 技术在尊重知识产权的前提下健康发展。
来源：新闻晨报 作者：张益维
