人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
以新安全格局保障新发展格局****** 作者：徐明（北京市习近平新时代中国特色社会主义思想研究中心特约研究员、中国社会科学院大学国家治理现代化与社会组织研究中心主任） 党的二十大报告提出，“统筹发展和安全，全力战胜前进道路上各种困难和挑战”“以新安全格局保障新发展格局”。立足新发展阶段，构建新发展格局，推动高质量发展，必须抓好发展和安全两件大事，有效防范和应对各类风险挑战。 处理好发展和安全的关系 发展是党执政兴国的第一要务，是解决我国一切问题的基础和关键。国家安全是民族复兴的根基，是安邦定国的重要基石。谈及发展和安全的关系，习近平总书记指出，“我们越来越深刻地认识到，安全是发展的前提，发展是安全的保障”。 新时代以来，我们坚持加强党的全面领导和党中央集中统一领导，着力推动高质量发展，坚决维护国家安全，防范化解重大风险，保持社会大局稳定，牢牢掌握了我国发展和安全主动权，取得了伟大成就。我国国内生产总值增长到114万亿元，经济总量稳居世界第二位。谷物总产量稳居世界首位，14亿多人的粮食安全、能源安全得到有效保障。持续加强科技创新和制度创新，增强产业链供应链自主可控水平，经济实力、科技实力、综合国力跃上新的大台阶。 同时也要清醒看到，世界百年未有之大变局加速演进，逆全球化思潮抬头，单边主义、保护主义明显上升，来自外部的风险挑战始终存在并日益凸显。我国推进高质量发展还有许多卡点瓶颈，确保粮食、能源、产业链供应链可靠安全和防范金融风险还须解决许多重大问题。我国发展进入战略机遇和风险挑战并存、不确定难预料因素增多的时期，各种“黑天鹅”“灰犀牛”事件随时可能发生，需要应对的风险挑战、防范化解的矛盾问题比以往更加严峻复杂。 迈上全面建设社会主义现代化国家新征程，必须处理好发展和安全的关系，努力实现高质量发展和高水平安全的良性互动。一方面，要善于运用发展成果夯实国家安全的实力基础。完整、准确、全面贯彻新发展理念，坚持高水平对外开放，加快构建以国内大循环为主体、国内国际双循环相互促进的新发展格局，为全面建成社会主义现代化强国奠定坚实的物质技术基础。另一方面，要善于塑造有利于经济社会发展的安全环境。坚定不移贯彻总体国家安全观，把维护国家安全贯穿党和国家工作各方面全过程，确保国家安全和社会稳定。 加强重点领域安全能力建设 党的二十大报告对“加快构建新发展格局，着力推动高质量发展”以及“推进国家安全体系和能力现代化，坚决维护国家安全和社会稳定”进行了重要部署。新时代新征程，更好统筹发展和安全，必须坚持党的全面领导特别是党中央集中统一领导，坚持发展和安全并重，加强重点领域安全能力建设。 着力提升产业链供应链韧性和安全水平。产业链供应链稳定安全是构建新发展格局的基础。要加快建设现代化产业体系，围绕制造业重点产业链，找准关键核心技术和零部件薄弱环节，集中优质资源合力攻关，保证产业体系自主可控和安全可靠。为此，既要通过拉长长板巩固提升优势产业的国际领先地位，也要通过补齐短板尽快解决一批“卡脖子”问题。此外，还要做强做大龙头企业，做专做精中小企业，以龙头企业引领产业链供应链上下游创新生态系统建设，深化在创新研发、市场开拓等方面的合作，推进产业链、价值链、创新链、人才链和资金链的融合。要保持并巩固我国制造业传统优势以“稳链”，推动战略性新兴产业融合集群发展以“强链”，形成必要的产业备份系统以“补链”，推进产业链供应链布局优化调整以“优链”。 增强国内大循环内生动力和可靠性。要把实施扩大内需战略同深化供给侧结构性改革有机结合起来，既扩大有效需求，又提升供给体系对国内需求的适配性，从需求侧和供给侧两端发力，畅通国民经济循环，提高发展质量和内生动力。要依托国内超大规模市场优势，更好发挥消费的基础性作用，充分发挥投资的关键作用。要建立适应消费升级和多元化消费需求的供给体系，积极推动产业结构优化升级，着力振兴实体经济。要通过预期管理和系统化设计，在关系国家安全的领域和节点构建自主可控、安全可靠的国内生产供应体系，在关键时刻可以做到自我循环，确保在极端情况下经济正常运转。 提升国际循环质量和水平。当前，全球产业结构和布局调整既带来新挑战也孕育着新机遇。提升国际循环质量和水平，需要坚持推进高水平对外开放，深度参与全球产业分工和合作，增强国内国际两个市场两种资源联动效应。一是要继续扩大商品和要素流动型开放，提升贸易投资合作质量和水平，推动我国产业转型升级，向全球产业链价值链中高端迈进。二是要稳步扩大规则、规制、管理、标准等制度型开放，营造市场化、法治化、国际化一流营商环境。三是要完善安全审查制度，健全与开放相适应的风险防范和安全保障体系，增强在对外开放环境中动态维护国家安全的本领。 加快构建新发展格局是关系我国发展全局的重大战略任务。牢牢守住安全发展这条底线，是构建新发展格局的重要前提和保障。要推进国家安全体系和能力现代化，加快构建与新发展格局相适应的新安全格局，在确保国民经济循环畅通的同时，增强我国在全球产业链供应链创新链中的影响力。 乐发彩票地图 |
