点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
“E”路前行，感谢有你！回眸2022“光明网安”这一年****** 铜壶刻漏，时光流转。即将过去的2022年是党和国家历史上具有里程碑意义的一年。随着我国网络强国战略的持续推进，网信事业不断迈向新的台阶。网络安全和信息化是一体之两翼、驱动之双轮。在过去一年里，光明网作为一家思想理论文化领域的中央重点新闻网站，持续关注互联网及网络安全领域，不仅开设了“网络安全频道”，还积极联动业界、加强沟通，发挥网络媒体优势推进网络安全教育、技术、产业融合发展，发起并主承办了多项品牌活动、重点项目，与大家携手共建“知识分子网上精神家园”。 在2022年倒计时之际我们回眸过去一年，盘点2022“光明网安”这一年。2023年即将到来，如果您对网络安全频道未来发展规划有什么意见建议，请告诉我们；有哪些创新发展方向思路，也请多多指教。相信在新的一年里，光明网网络安全频道将在您的支持与关注下，不断演绎新的精彩。 1、光明网网络安全频道上线 为了深入学习贯彻习近平总书记关于网络强国的重要思想，推动光明网在网信领域宣传报道工作出新出彩，发挥网络媒体优势推进网络安全教育、技术、产业融合发展，进一步提升公众的网络安全意识，光明网于2022年1月28日上线了网络安全频道。
光明网首页导航栏设置网络安全频道入口
扫描识别二维码进入光明网网络安全频道 光明网网络安全频道以“共建网络安全，共享网络文明”为宗旨，下设要闻、物联网、数据安全、云安全、隐私保护、技术前沿、安全科普、对话访谈、评论观察等节点板块，依托光明网在网信领域积累沉淀形成的内容优势与前沿视角，为网络安全行业产业政策、前沿技术动态的宣传引导构筑新媒体平台。
2、网络安全科普工作站 为加强网络安全领域科普工作，进一步提升公众的网络安全意识，在2022年1月24日至25日举行的网络空间威胁对抗与防御技术研讨会暨第九届安天网络安全冬训营期间，光明网联合网信领域头部企业安天科技启动网络安全科普工作站，发挥双方各自优势，携手打造网民获取网络安全知识的新平台。
启动仪式上，全国政协委员、中国网络安全产业联盟理事长、安天集团创始人肖新光（左一），光明网总裁、总编辑杨谷（左二）为网络安全科普工作站揭牌 在过去一年里，网络安全科普工作站聚焦SDK乱象、网络病毒等话题，推出20余组长图、动画等新媒体科普产品；针对安天移动《安全发布的移动互联网风险应用白皮书》，推出“万万没想到！App花样套路大解密”系列，深度解读行业乱象和应对之法，在业界引发热烈反响。
3、网络安全科普专区——“网络安全e点通”专栏 为贯彻落实习近平总书记致光明日报创刊70周年贺信中的指示精神，彰显网络媒体在新媒体时代社会责任，推动网络安全领域科普工作长效深化，2022年上半年，光明网网络安全频道特别开设“网络安全e点通”品牌科普专栏。选题内容更加注重知识性、教育性，集纳相关文图、视频、长图、动画等科普类新媒体作品。在过去一年里，网络安全频道与360集团、安天科技、安恒信息、知道创宇、亚信安全、微步在线、华云安等十余家网信企业联动，围绕行业及社会热点话题推出系列动漫、动画、长图等新媒体科普产品。
扫描识别二维码进入光明网“网络安全e点通”专栏 4、”全民国家安全教育日”系列新媒体产品 2022年4月15日是第七个全民国家安全教育日，主题为“树牢总体国家安全观，感悟新时代国家安全成就，为迎接党的二十大胜利召开营造良好氛围”。光明网联合中国科学技术大学网络空间安全学院、山东大学网络空间安全学院、武汉大学国家网络安全学院、上海交通大学网络空间安全学院等机构，聚焦行业热点话题，做好新媒体端网络安全科普，联合推出系列动画、视频、海报等新媒体产品。
5、《网络安全法》实施五周年线上座谈会 2017年6月1日，我国网络安全领域的基础性法律——《中华人民共和国网络安全法》正式施行，成为我国网络空间法治化建设的重要里程碑。在这部法律实施五周年之际，由中国网络空间安全协会、中国安全防范产品行业协会、光明网等共同举办的《网络安全法》实施五周年座谈会，于2022年5月31日在线上举行。期间，中国网络空间安全协会理事长王秀军，全国人大宪法和法律委员会副主任委员江必新，中国工程院院士邬贺铨，中国工程院院士沈昌祥，中国行政体制改革研究会副会长、中央党校（国家行政学院）教授汪玉凯，中国人民大学法学院教授张新宝等多位院士专家学者以及一线从业者，深入剖析了新发展阶段网络空间发展面临的风险与挑战，探讨了数字化转型中推进网络空间安全法治化，构建新发展格局，提升国家治理能力现代化的方向路径。
扫描识别二维码，进入光明网专题区回顾五周年座谈会精彩观点
6、“《网络安全法》实施五年来”主题征稿活动 为充分展现《网络安全法》实施五年来网络安全领域发展成果，推进行业健康有序发展建言发声，光明网联合中国网络空间安全协会自2022年5月下旬至6月下旬，开展“《网络安全法》实施五年来”征稿活动，面向科研机构、专家学者、网信企业及广大网民征集优秀作品。期间，多位专家学者、一线从业人员以及全国各地网信部门积极踊跃投稿，稿件类型涉及热点观察、经验梳理、基层实践等多个方面，共计100余篇，部分优秀作品在光明网网络安全频道刊发。
扫描识别二维码，进入光明网专题区回顾征稿刊登汇编 7、未成年人网络保护研讨会 在六一国际儿童节来临之际，由中国网络空间安全协会、光明网、北京网络空间安全协会、天津市网络空间安全协会、北京师范大学新闻传播学院未成年人网络素养研究中心联合主办的未成年人网络保护研讨会，于2022年6月1日在线上举行。来自行业协会、各大高校、新闻媒体等相关单位代表百余人参会。期间，与会嘉宾讨论了主办单位起草的《未成年人网络安全保护倡议（征求意见稿）》。与会嘉宾表示，要加强法律监管、健全监管机制；发动全社会力量，加强对相关平台的监管；加强行业自律，通过综合施治，为未成年人撑起一片清朗的网络空间。
扫描识别二维码，进入光明网专题区回顾研讨会精彩观点 8、2022人工智能为儿童典型案例展播 以“踔厉奋发谱新篇 E路护苗向未来”为主题的2022未成年人网络保护研讨会，于2022年6月20日在北京举办。第十届全国人大常委会副委员长、中国关心下一代工作委员会主任顾秀莲，中央网信办副主任、国家网信办副主任盛荣华，中国宋庆龄基金会党组成员、副主席井顿泉，全国人大社会建设委员会副主任委员、中国网络社会组织联合会会长任贤良等出席。研讨会由全国人大社会建设委员会、中国宋庆龄基金会、中国关心下一代工作委员会、中央网信办网络综合治理局、共青团中央宣传部指导，中国网络社会组织联合会、中国宋庆龄基金会办公室主办，中国网络社会组织联合会未成年人网络保护专委会承办，中国宋庆龄青少年科技文化交流中心、光明网等联合协办。
研讨会期间，由中国网络社会组织联合会、中国传媒大学、光明网共同启动“2022·人工智能为儿童典型案例展播”专题活动，旨在通过入选典型案例宣传，展示我国人工智能领域助力儿童成长的创新经验和优秀做法。
扫描识别二维码，进入光明网专题区观看精彩案例展示 9、2022西湖论剑•网络安全大会 2022年7月2日，以“构建安全可信的数字世界”为主题的2022西湖论剑·网络安全大会成功举办。本届大会在杭州、北京同步召开，设置开幕式及全体大会、两场主论坛、八场平行论坛以及两场网络安全展。自2012年以来，西湖论剑始终以全球之视野，观时代之发展，为中国网络安全行业发声。历经十年，西湖论剑已成为中国网络安全领域的金名片。光明网作为本届大会战略媒体支持单位，为大会做好多方位、各角度、全媒体的配套宣传方案，大会前后共计输出页面专题、文图稿件、视频专访、动画长图、观点海报等100余篇/组，并在微博、抖音等移动端开设话题，取得良好传播效果。
扫描识别二维码，进入光明网专题区回顾大会精彩内容 10、网络安全趋势论坛 在2022西湖论剑·网络安全大会期间，由中国网络空间研究院主办，《中国网信》杂志、安恒信息、光明网承办，北京邮电大学、海南大学、中关村可信计算产业联盟协办的“网络安全趋势论坛”在北京举行。论坛以“网络安全未来之路”为主题，旨在共同探讨网安发展趋势，提升全民网安意识和防护技能，携手构建未来安全可信的网络世界。期间，中国网络空间研究院院长、党委书记夏学平，中国工程院院士沈昌祥、中国电子信息产业集团有限公司第六研究所所长张尼等来自高校、研究机构、行业企业的代表，交流探讨网络安全领域新热点、新技术和新挑战；在圆桌论坛环节，专家学者围绕“探索2050，未来数字世界安全对话”主题展开分享。
11、网络安全未来十大趋势展望征集推选 过去的十年，是信息技术革命日新月异、数字经济发展浪潮奔涌的十年，也是深刻把握信息化发展大势、积极应对网络安全挑战的十年。立足过去十年网络安全领域辉煌成就及当前网络安全发展新趋势，为携手应对网络安全面临的新形势、新挑战，进一步赋能行业高质量发展，自2022年6月7日至6月30日，由中国网络空间研究院网络安全研究所指导，《中国网信》杂志融媒体中心、光明网网络安全频道主办，安恒信息提供技术支持的“网络安全未来十大趋势展望”征集推选活动举行。 活动通过定向邀请网络安全学院、研究机构、网信企业以及公开申报等渠道广泛征集，并结合网民线上投票、专家意见最终形成十大趋势展望，为行业创新发展及政策法规研究制定提供前瞻视角及借鉴参考。征集推选成果在“2022西湖论剑网络安全大会”期间重磅发布，并在《中国网信》杂志微信公众号、“西湖论剑网络安全大会”官网、光明网发布相关解读。
“网络安全未来十大趋势展望”征集推选成果发布
扫描识别二维码，进入“网络安全未来十大趋势展望”征集推选页面 12、数字安全元宇宙公益展 汹涌澎湃的数字化浪潮不断为全球发展带来深层的洗礼与革新，开创了全新的数字文明。然而，数字化也让新的安全威胁相伴而生。由于乡镇与城市在基础设施、产业形态等方面的建设水平尚存差距，造成了其所面临的风险与挑战更加巨大。在互联网安全大会（简称“ISC”）十周年之际，大会组委会联合中国光华科技基金会、光明网网络安全频道，于2022年7月28日重磅开启首个数字安全元宇宙公益展。 2022全球数字经济大会数字安全峰会暨第十届互联网安全大会由全球数字经济大会组委会主办，北京市经济和信息化局、北京市朝阳区人民政府、360 集团等单位共同承办。本次公益展是ISC期间重要活动，通过让留守儿童与白帽黑客共绘的形式，全面呈现出数字安全的十年演变历程，也在数字孪生技术的加码下打造出更具真实性、交互性、代入感的元宇宙观展体验，让更多人看到潜藏在数字化生活之中的安全威胁，助力弥合城乡数字安全建设进程中存在的鸿沟。
13、数字安全建设关键词推选 伴随数字化转型进程的深化，逐渐塑造形成了新的文明形态——数字文明。同时，高度的数字化也衍生出了新的威胁，让安全风险不断加剧。在互联网安全大会（简称“ISC”）十周年之际，ISC组委会携手光明网网络安全频道，特邀9位安全领域权威专家，分别从战略、技术、行业、产业、生态、创新、市场、产品、定位等维度，提炼总结出针对数字安全建设的9大关键词——体系作战、看见威胁、互联互通、有法可依、扶助中小微、创新求变、战场“炬目”、千亿蓝海、数字化基座，为数字安全的未来发展作出有力注解，进一步助力中国数字化发展之路行稳致远。
扫描或识别二维码，回顾九大关键词具体内容 14、数字安全新视界专栏 当前，数字经济呈现网络化、融合化、共享化、智能化、全球化的同时，其安全问题更加突出，目前安全风险已遍布关键基础设施工业互联网、车联网、数字政府、智慧城市等各个场景，网络安全逐渐“升级”为数字安全。光明网网络安全频道特别开设"数字安全新视界"品牌专栏，旨在联动业界机构、头部企业、行业精英，携手聚焦数字安全新趋势、新挑战，探寻如何在总体国家安全观之下统筹数字经济发展与安全，共同推进新时代网络强国建设。
扫描识别二维码，进入数字安全新视界专栏页面 15、推进落实《关键信息基础设施安全保护条例》专题分享会 近年来，关键信息基础设施面临的安全形势严峻，网络攻击威胁事件频发。持续做好关键信息基础设施安全保护、不断推动《关键信息基础设施安全保护条例》（以下简称《条例》）落地实施意义重大。2022年8月，在《条例》颁布实施一周年之际，由光明网网络安全频道、中国信息协会信息安全专业委员会主办，北京六方云信息技术有限公司承办的”推进落实《关键信息基础设施安全保护条例》“专题分享会在京举行。来自各界的专家学者共聚一堂，为推进我国关键信息基础设施安全保护建言献策。
扫描识别二维码，进入主题分享会专题页面 16、《探秘安全之“XIN”》——走进网络安全实验室新媒体科普特辑 为深入贯彻落实网络强国战略，提升公众网络安全意识，2022年8月，光明网网络安全频道、《信息安全研究》杂志社联合推出《探秘安全之“XIN”》——走进网络安全实验室新媒体科普特辑，通过视频拍摄、移动直播、Plog图集等形式，以新媒体传播视角探秘鲜为大众知晓的网络安全实验室。 《探秘安全之“XIN”》系列节目以“探秘式”手法，生动有趣的科普语言，将晦涩的概念通俗化，将抽象的话题具象化，轻松活泼地展现国内安全实验室的网络攻防演练、毫秒级识破假人脸、远程破解网络诈骗、无人驾驶远程控车等场景背后的故事。节目推出以来，新华三攻防实验室、绿盟科技研究院等两家“实验室”已完成拍摄播出，并与多家实验室达成意向。2023年，该节目将作为网络安全频道一项重点工作持续推进。
扫描识别二维码，回顾往期节目——《【探秘安全之“XIN”（一）——走进新华三攻防实验室】他们是逆行者，也是溯源师！走近这群“网络安全大白”》
扫描识别二维码，回顾往期节目——《【探秘安全之“XIN”（二）——绿盟科技研究院】八星汇聚、各显其能，这个安全矩阵不一般》 17、2022年国家网络安全宣传周系列科普产品 2022年9月5日至11日，由中央宣传部、中央网信办、教育部、工业和信息化部、公安部、中国人民银行、国家广播电视总局、全国总工会、共青团中央、全国妇联等部门联合举办的2022年国家网络安全宣传周在全国31个省（区、市）统一开展，开幕式、博览会、分论坛等重要活动在安徽合肥举行。期间，光明网联合国家工业信息安全发展研究中心，推出系列会议长图、体验视频等新媒体产品；联合360集团、安恒信息、华云安等网信企业推出系列新媒体动画。
18、数据安全共同体计划 近年来，数据安全与国家安全联系不断紧密。中国信息通信研究院联合60余家高校、科研院所、企事业单位，发起“数据安全共同体计划”，旨在促进《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》落地实施，推动数据开发利用和数据安全领域的技术推广和产业创新。2022年下半年，中国信通院与光明网联合开设专题页面，集纳、汇总、展示“数据安全共同体计划”精彩实践。
扫描识别二维码，进入主题专栏页面 19、“网络强国·这十年”专栏 党的十八大以来，我国大力加强网络安全保障体系和能力建设，网络安全战略、政策、法规体系不断健全，关键信息基础设施保护、数据安全管理、个人信息保护、新技术新应用风险防范等能力持续加强，网络安全教育、技术、产业等基础更加坚实。为充分聚焦网信发展重要成果，展现网络强国战略发展成就，自2022年下半年起，光明网特别推出“网络强国这十年”品牌栏目。 该专栏以人物专访为主，邀请政产学研各领域代表做客访谈。截止目前，中国科学技术协会第十届全国委员会委员、安恒信息董事长范渊；安天科技集团执行总裁潘宣辰；中国网络空间安全协会理事、知道创宇CTO&COO杨冀龙；绿盟科技战略规划部副总经理王延华；微步在线创始人、CEO薛锋；志翔科技总裁蒋天仪；中国民航信息网络股份有限公司副总经理李劲松；卡巴斯基大中华区总经理郑启良等业界精英相继做客该栏目，在回顾往昔、立足当下的同时，展望趋势、畅想未来发展。2023年，在“网络强国·这十年”专栏基础上，将升级为“网络强国·筑梦新篇”专栏，持续聚焦新时代新征程下网络强国建设，以及各行各业数字化转型实践案例。
扫描识别二维码，进入主题专栏页面 监制：张宁 李政葳 撰文：刘昊 王一涵 视频：刘昊 设计：杜丹 出品：光明网网络安全频道 （文图：赵筱尘 巫邓炎） [责编：天天中] 阅读剩余全文（）  视觉焦点
彩云网地图 |
)