360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日,360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告,报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道,是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索,对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
上海:新型现代警务机制提升超大城市安全能级******
2022年,上海警方共打掉电信网络诈骗黑灰产团伙260余个,抓获犯罪嫌疑人4500余名。 上海警方供图
中新网上海1月10日电 (记者李姝徵)高水平的安全保障了国际化超大城市的繁华,也是城市能级和核心竞争力不断提升的关键。来自第三方的调查显示,2022年度上海公众安全感和公安工作满意度两项数据连续第10年实现“双提升”。
2022年,上海公安机关以“一平台、三体系”新型现代警务机制为牵引,持续推进风险隐患清零、精准打击犯罪、便民政务服务等工作,不断提高人民群众安全感、满意度,推动城市安全向更高水平迈进,为上海在新征程上继续当好改革开放排头兵、创新发展先行者保驾护航。
主动除隐患,实现事前预防治理
“老于,最近你店里有没有一个年轻人来卖电瓶车”“有有,你这里也有吗”“这么巧,我这里前几天也来过”……“平安商户联盟”微信群内这段聊天内容引起了民警的注意,该群内商户大多是电动自行车经销商。金山分局金山卫派出所当即组织警力对该情况开展循线排摸,成功侦破一起连环盗窃电动自行车案件。
上海警方全力优化便民服务模式,推出了一系列便民利民的改革举措。 上海警方供图
上海公安机关努力推动公共安全治理模式向事前预防转型,依托“动态隐患清零”主动防范体系,积极打造特色品牌,通过在全市范围内推广“平安屋”及“平安商户联盟”建设,不断提升城市治理现代化水平。截至2022年底,已建成“平安屋”2100余个、组建“平安商户联盟”队伍270余支,日均参与值守群防群治力量1.2万余人,延伸了主动发现隐患的触角。
闵行分局浦锦路派出所人民调解室内,两位纠纷当事人在民警、调解员和律师的帮助下握手言和,一起因长期漏水引起的邻里纠纷就此解决。
上海警方在全市范围推广派出所、司法所、律师事务所“三所联动”纠纷调解模式,将矛盾最大限度化解在基层。 上海警方供图
邻里、家庭等矛盾纠纷潜伏性较强,久而久之可能会引发治安甚至刑事案件。对此,上海公安机关坚持新时代“枫桥经验”,发挥社区民警“平安建设的组织者”作用,积极发动辖区内群防群治力量共同滚动排摸邻里、家庭等矛盾纠纷,力争做到及时主动发现。同时,在全市范围推广派出所、司法所、律师事务所“三所联动”纠纷调解模式,将矛盾最大限度化解在基层。2022年,共化解矛盾纠纷63万余起。
武宁南路武定路路口,施工人员正在调整地面车道的标志标线,现场疏导交通的静安分局交警支队一大队大队长张稳对记者说道,“近期,我们通过对各重要路口车流的分析研判,重新调整相关路口的交通标志标线,让居民出行更加安全。”
道路一旦发生拥堵极易引起交通事故和安全隐患,超大城市的交通拥堵现象一直是全球性的难题。上海公安机关运用“易的PASS”等智能交通分析系统,实时分析比对大车流情况,不断优化调整道路交通标志标线。通过主动优化各大拥堵路段、路口的交通标志标线,有效缓解了道路通行状况,极大挤压了交通隐患滋生的空间。2022年,共优化调整各类交通标志标线780余处,全市交通事故同比下降31.2%。
精准打犯罪,保障经济向稳向好
“世界杯刚刚落下帷幕,在球迷享受精彩赛事的同时,我们对‘赌球’等违法犯罪行为开展了专项打击整治。”治安总队治安行动队副支队长薛文渊介绍,11月中旬以来,上海警方紧盯网络赌博线索,主动巡查、精准研判各类信息,坚决铲除赌球窝点、斩断渗透链路、摧毁组织体系,净化了社会治安环境。截至目前,全市公安机关共侦破赌球刑事案件26起,查获涉案赌资1300余万元(人民币,下同)。
在严打网络赌博犯罪的同时,上海公安机关依托“分类统筹集约”精准打击整治体系,深入开展“砺剑”系列专项行动,全力攻坚电信网络诈骗、侵犯知识产权等突出违法犯罪,保障全市经济社会向稳向好发展。
3名“90”后同租一屋竟申请4根网线,原来是为远在国外的诈骗分子提供语音通话技术服务......近日,奉贤警方开出了上海自2022年12月1日《反电信网络诈骗法》施行后的行政处罚首单,具有“帮信”违法行为的3名“90”后分别被处以罚款5000元。
电信网络诈骗之所以如癣疥之疾般难以根除,与其背后庞大黑灰产利益链的支撑密不可分。2022年,上海公安机关紧盯电信网络诈骗犯罪新动向,全链条打击为诈骗分子非法提供通信、网络技术支撑和非法转账洗钱的黑灰产团伙,共打掉电信网络诈骗黑灰产团伙260余个,抓获犯罪嫌疑人4500余名,电信网络诈骗案件破案率持续上升、发案数持续下降。
当下深受广大年轻群体喜爱的剧本杀竟也有假货?近日,上海警方联合相关行政执法部门,成功侦破全国首例侵犯剧本杀著作权案,抓获盗版印刷、网络分销、线下门店等全环节犯罪嫌疑人39名,捣毁仓储、销售窝点15处,涉案金额达5000余万元。
经济形势的不断变化,导致危害市场秩序安全和市场主体权益的经济犯罪日益凸显。对此,上海公安机关不断紧密与市文旅局、市版权局等行政部门的合作,强化精准预警、精准打击、精准处置能力,严查严打严防各类侵犯著作权犯罪。针对此类犯罪跨地域、团伙化的趋势特点,坚持跨省作战、深挖严打,全力维护一流营商环境。2022年,全市公安机关已侦破侵犯著作权类案件60余起,抓获犯罪嫌疑人160余名,涉案金额17.7亿余元。
便民优服务,提高人民生活品质
“这项政策真是太方便了,我们夫妻不用特意请假回老家给儿子报出生了,在上海就可以直接打印儿子的《居民户口簿》,太感谢了!”在上海工作生活的江苏籍居民周先生,仅用1分钟就在派出所为自己新出生的儿子成功打印了《居民户口簿》信息,成为“长三角区域跨省(市)新生儿入户服务”由“缴旧寄新”到“直接打印”转变升级后的首位受益群众。
2022年,上海公安机关全力优化“一口受理、联动审批、快捷收付、一网通办”的便民服务模式,推出了一系列便民利民的改革举措。
“现在无犯罪证明可以直接全程在手机上申请、出示,简直太方便了。”在松江分局方松派出所窗口民警指导下学会线上申请的李女士喜笑颜开。
围绕“足不出户能办事,跑路最多只一次”目标,上海公安机关以“互联网+政务服务”为基础,推动公安政务服务从线下窗口向网上办事转型。以市民群众最常开具的户籍证明和有无犯罪记录证明为例,自上线以来,这两张证明累计在线开具270余万张,减少群众跑动270余万次。
为解决群众急难愁盼问题,在“可办能办”的基础上向“好办快办”目标转变,上海警方充分发挥公安数据治理应用优势,牵头开发了公安电子证照制证和调用系统,全量归集制作了身份证、户口簿等63类9500余万张电子证照,市民群众可以通过“随申办”亮证使用。同时,警方积极拓展电子证照应用场景,先后推出电子证照在宾馆住宿、路面交通查验等场景中的应用。
除了各项便民举措,上海警方持续推出优化营商环境的举措,试行“浴场”“宾馆”和“网吧”等3个行业“一业一证”改革,探索建立“一证准营”的行业综合许可制度,将多张许可证整合为一张“行业综合许可证”,最大限度释放改革红利,让经营者更加坚定扎根上海的决心。(完)
(文图:赵筱尘 巫邓炎)