当前AI治理与发展已走到关键的“十字路口”,尤其是生成式AI带来前所未有的挑战。发展与治理的平衡问题首当其冲——人工智能技术的发展速度远超监管制度的制定速度,这使得人工智能监管变得空前复杂。随着人工智能的能力持续增强,应该如何定位人类在与人工智能合作中的角色?如何管控和治理人工智能?随着国际格局变化,如何加强国与国之间在人工智能治理方面的沟通与合作?
自2022年以来,以大模型、生成式人工智能为代表的通用人工智能技术迎来大爆发。AI正以前所未有的速度、广度和深度赋能人类社会经济进步。作为新一轮科技革命和产业变革的重要驱动力量,AI具有技术属性与社会属性高度融合的特点,其高速发展的同时,也带来巨大风险与挑战,如数据偏见、隐私侵犯、加剧发展鸿沟等。
发展人工智能,根本目的是造福人类、增进人民福祉、促进人的全面发展。因此,与AI技术进步同等重要的是AI规则治理。正如国家主席习近平在2023年10月宣布我国提出《全球人工智能治理倡议》。这一倡议坚持“以人为本、智能向善”,为世界提供了基于人类命运共同体理念的人工智能治理新视角。欣喜的是,我们看到越来越多的AI研究与应用者重视人的价值、权益和尊严,并通过创新AI应用提升人的生活品质、创造力以及价值感,让AI普惠所有人。
在这一发展趋势下,财新智库、ESG30联合AI生态圈的诸多机构伙伴共同发起“人本智能倡议”,旨在携手各行业领军机构共同推动AI技术朝着以人为中心、更负责任与更可持续的方向发展。
我们倡议:
(一)秉持人本智能。各行业、企业、组织、机构等各利益相关方秉持“人本智能”的科技发展观,坚持以人为本、智能向善。在AI的研发和应用中关注增强人类能力,实现安全可控;确保AI应用的最终目标是服务于人,不偏离人类文明进步的方向,并增进社会整体福祉。
(二)融入企业战略。作为AI技术的研发、应用主体,企业应将恪守人本设计、赋能人的价值提升、普惠个人与千行百业,以及坚守人本底线等融入企业战略,积极拓宽AI创新应用场景,加速AI与社会深度融合,从而更好辅助人类、增利人类、关怀人类。
(三)加强行业自律。倡导行业中各利益相关方积极参与制定更负责任的行业标准和规则,在符合法律和政策规定、技术可行以及尊重版权的范围内,及时披露相关的安全、法律、伦理风险和已采取的应对手段,建立安全防护长效机制,推动建立风险等级测试评估体系。
(四)打造创新网络。秉持开放共建的理念,倡导政府、产业界、学术界和社会公众共同参与,鼓励AI技术成果的交流与共享,积极打造AI协同与创新交流的平台及网络,共同探索AI技术发展和应用的创新生态。
(五)推动国际合作。加强全球科技企业及利益相关团队间的交流与协作,推动落实国际标准的制定和协调,促进全球AI治理的一致性和有效性。
(六)倡导ESG理念。鼓励各利益相关方将ESG理念(环境、社会与治理)贯穿于AI系统生命周期内,确保AI是绿色低碳、多元包容与透明负责任的。同时,AI研发与应用应尽可能推动全社会的ESG实践,共同构建环境更可持续、社会更多元包容、经济更高质量发展的美好未来。
我们呼吁各利益相关者积极行动,加入“人本智能”倡议,共建“以人为本”“智能向善”的人工智能发展生态,让技术的进步真正助力全球发展事业,赋能人类美好生活。
当前AI治理与发展已走到关键的“十字路口”,尤其是生成式AI带来前所未有的挑战。发展与治理的平衡问题首当其冲——人工智能技术的发展速度远超监管制度的制定速度,这使得人工智能监管变得空前复杂。随着人工智能的能力持续增强,应该如何定位人类在与人工智能合作中的角色?如何管控和治理人工智能?随着国际格局变化,如何加强国与国之间在人工智能治理方面的沟通与合作?
发布人:卢常乐,财新智库高级研究员
圆桌嘉宾:
刘擎,华东师范大学紫江特聘教授
杨小康,上海交通大学人工智能研究院常务副院长、教授
王会文,联想集团副总裁、全球电脑与智能设备首席质量官
陈妍,腾讯设计杰出专家、腾讯混元产品负责人
主持人:
王喆,财新智库高级经济学家、研究主管
发布人:高尔基,财新传媒副总裁,财新智库执行总裁
上海交通大学人工智能研究院常务副院长杨小康教授认为,人本智能技术将有助于提升类人认知和服务的水平,对推动全球科研向“第五范式”迈进具有巨大的促进作用。
申卫星教授认为,AI技术无法做到纯粹的价值中立,应积极回归人本主义,将价值观嵌入人工智能,从而升级为体现人性光辉与温度的“人本智能”。AI发展的最终目标是服务于人性、人本,而不应该放任技术冲击人性,使人工具化、碎片化。
11月9日,由财新智库、ESG30出品,上海交通大学人工智能研究院、联想集团联合出品的国内首份聚焦科技行业AI创新自律与治理的《人本智能:人机共生时代的科技发展观》报告(以下简称“报告”),在第十五届财新峰会ESG专场上正式发布。
【来源:财新网】王会文指出,ESG和AI是“人本智能”的两个面,两者相互促进
【来源:财新网】机器工具正在塑造人,其深度前所未有
【来源:财新网】AI技术所依托的神经网络最大的问题是“不可解释性”,人类驾驭AI的难度大大增加
【来源:财新网】老人和儿童群体对AI有情感陪伴需求,AI也因此增强了“情商”
【来源:财新周刊】除了跟随先进技术,中国还应从算法、数据等层面开拓创新,结合制造能力打造规模化商用场景
【来源:财新周刊】程序员与AI亦友亦敌,从生产力工具替代出发,互联网迎来新一轮自我革命
【来源:财新网】2024年4月8日辛顿获得尤利西斯奖章,以表彰他对计算机科学人工智能领域的贡献。他通过在计算和工程两方面的突破,使得深度神经网络成为计算的关键组成部分。本文为杰弗里·辛顿在获得尤利西斯奖章时发表的演讲,简明扼要地介绍了神经网络和大语言模型的基本概念和工作方式。
【来源:财新网】在面对技术进步带来的潜在劳动力市场挑战时,我们不应盲目悲观,而应积极拥抱新技术,将其视为工具和资源,通过与技术的融合,减少其替代性,增强其互补性