AI时代如何筑牢安全防火墙？
（记者 林碧涓）近日，北京互联网法院针对一起“人工智能生成图”著作权侵权纠纷案，作出一审判决，这是我国首例涉及“AI文生图”著作权案件。在如今的智能时代，AI技术正加速融入人们的生活中，人工智能安全和隐私保护问题逐步成为人工智能系统在开发和应用中面临的“成长的烦恼”。
（图片来源：摄图网）
人工智能安全挑战诸多
AI进厂，实现全流程自动化生产；AI入田，水肥一体机自动检测、调控，实现智慧农耕；AI人脸识别、语音识别、智能算法推送融入人们日常生活中……近几年，人工智能技术呈现蓬勃发展之势，加速融入社会生活生产之中，成为引领新一轮科技革命和产业变革的战略性技术，并推动经济社会各领域向智能化加速发展。工信部公布的最新数据显示，我国人工智能企业数量超过4400家，我国人工智能产业已进入全球第一梯队。赛迪顾问此前预计到2035年，中国人工智能产业规模将达1.73万亿元，全球占比超三成，为30.6%。
正如每个硬币都有正反面，人工智能在为社会生活带来智能便利的同时，数字化安全风险行驶进入了快迭代、高智能、全覆盖的新格局，给社会治理带来全新挑战。
AI安全风险可分为三类，第一是内生安全，由软硬件系统组成的人工智能系统，也会存在技术本身的脆弱性和数据依赖性等缺陷，此前微软公司的人工智能研究团队就曾意外在软件开发平台GitHub上泄露了大量私人数据，其中涵盖了3万多条微软团队的内部信息；第二是衍生安全问题，即人工智能被利用或不恰当使用而可能引发其他领域的一些重大安全事故，例如人们熟知的深度合成伪造声音和视频的通信诈骗；第三是人工智能系统面临的外部入侵和攻击。
产业发展需兼顾安全
在资源共享、信息互通的智能时代，人工智能发展无疑为社会经济发展带来新的机遇，但安全是发展前提，正如上文所言，产业各方在享受AI红利的同时，也要扎紧安全的藩篱。
我国对人工智能安全高度重视，近年来，关于网络安全的法律法规、标准规范，包括各种团体标准、地方政策不断出台。例如，针对人工智能科技伦理方面，陆续发布《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》等；在智能算法治理方面，发布了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》，政策、规定的发布进一步促进AI健康发展规范应用。
除各级管理组织外，产业各方也在积极推进人工智能安全建设。作为通信央企，中国电信认真贯彻总体国家安全观，以打造安全型企业为目标，持续开展数字安全工作，此前，中国电信、字节跳动、西安电子科技大学、国家金融测评中心等 30 余家机构成为“AI安全工作组”首批发起单位，将致力于“共同解决 AI 技术快速发展所带来的安全难题”。
AI辅助 全方位筑起安全屏障
星河通用视觉大模型是中国电信针对视觉领域推出的大模型，当前已升级至2.0，模型参数从十亿提升至百亿，数据量从百万提升至亿级，构建了“视频监控+AI+云播”的智感安防体系，赋能千行百业。如广东清远的交通违章治理、惠州的社会治安治理场景，取得显著成效，形成全国性标杆。
这只是中国电信安全服务的生动缩影。近年来，中国电信将“安全”融入企业发展之中，坚持科技创新，将AI技术和5G、云、物联网等能力相结合，加快推动科技成果转化应用，护航各行各业数字化转型升级。在中科光芯光电生产车间，采用中国电信5G商企专网，实现了5G+重点区域AI监控、5G+AI穿戴识别等多个智能场景，实时管控生产人员的操作与服装穿戴规范，有力提升车间生产安全。
此外，中国电信还推出了天翼安全大脑、量子密话、电信数盾等系列产品与服务，以及国内唯一有全网覆盖和全球触达能力的“云堤”平台，为行业客户提供业界领先的安全服务，护航AI产业高质量发展。
人工智能安全是一个复杂又不可避免的问题，随着人工智能技术发展与应用深入，其安全性越来越重要，需要政府、企业和个人共同努力。