11月30日，2025年“读懂中国”国际会议（广州）召开，大会平行分论坛——智领未来：“人工智能+”背景下“十五五”产业升级与人才培养同步举行。会场汇聚人工智能行业领导部门、领先科技企业、国内外一流大学人工智能专业学者等嘉宾，共同研讨中国下一个五年发展期中工程配资，人工智能对产业、人才培育的影响和对策。
分论坛上，中华人民共和国工业和信息化部原副部长王江平发表《上善AI—以老子“上善若水”智慧勾勒中国AI治理愿景》主题演讲。王江平谈到，目前，世界上关于AGI（通用人工智能）领域存在一些争论：乐观派认为通用人工智能在未来5-10年有望实现；但保守派认为，人工智能依赖大数据，它事实上缺乏核心能力，是一种“概率性输出”本质上是“模仿而非理解”，因此无法形成自主认知，因此认为大模型是“死路一条”，无法真正通向AGI……
随着人工智能的飞速发展，对于AGI的争论与探索仍在继续，王江平认为，我们应该以理性态度把AI技术运用到解决现实问题方面，有效开展AI监管，科学训练AI确保其始终服务于人类福祉。
AI是人类养的“幼虎”吗？
王江平提出，有人将AI比作人类养育的“幼虎”，小时候“可爱可控”，长大了便不为人类所指挥了。我们该如何开展AI监管？最重要的是，我们怎么样在不同的阶段训练好AI，保证它始终处于与人类合作的状态。“根据对具体领域的测试，从技术途径看来，我们完全可以通过一系列的技术创新，来保证AI始终对人类是健康的。”王江平说。
王江平提出，人机对齐是智能时代的核心议题。人机对齐是指通过技术手段与伦理框架，确保人工智能系统的目标、行为和输出与人类的价值观、意图及社会规范保持一致。他进一步阐释，人机对齐需要做好以下几点：
一是保持人工智能系统的稳定性在各种环境中得到保证；二是人工智能系统应该在人类的指导和控制下运行；三是人工智能系统的操作和决策过程应该清晰易懂；四是人工智能系统应该遵守社会规范和普世价值观。
王江平谈到，现阶段几种典型的人机对齐技术日益广泛地应用于模型训练：包括基于人工反馈的强化学习（英文缩写RLHF），旨在通过人类对模型输出的评价优化模型行为，将人类偏好转化为奖励信号，指导模型生成更符合人类需求和期望的内容。
另一个是检索增强生成（英文缩写RAG），在训练的文档索引中检索出有用信息，再利用这些信息强化模型的生成过程，以提高输出的准确性、可靠性和可解释性，减少模型“幻觉”。特别适用于处理长尾问题和实时更新。当前，大多数主流模型采取了上述两种技术训练AI。
人机对齐技术目标——“上善AI”
人机对齐技术将有效实现对AI的训练，当前，对齐技术与人工智能同步发展，处在不断创新探索中。王江平表示，当前，人机对齐技术的发展方向大致有：从单模态到多模态，不再局限于让模型“说人话”，还要确保它能正确理解图片描述的内容、语音表达的情绪等，实现真正的“全能”智能交互；从通用到个性化，在确保模型遵循社会普遍价值的前提下，探索如何让AI的行为和输出更贴合行业及个体的特定偏好和需求，提供定制化服务体验。
接下来，人机对齐技术还将在AI隐私保护、持续稳定学习能力等方面开展研究，这些技术进步将共同致力于构建更安全、可靠、值得信赖的AI系统。
王江平提出，人类可学习老子“上善若水”的智慧来追求AI善治，实现“上善AI”的目标。他提出，对AI的监管应秉持“无为而治，为而不争”，不过度干预，而是通过建立稳固的伦理底线和原则性指导，为创新留出生长空间，以“不干预”实现“大治”。
最后，王江平认为，AI的福祉应该是普惠的、谦逊的、非控制性的，其价值在于回应社会真实需求，如精准医疗、教育公平和功能性康养等。
“‘上善AI’理念能为我们提供一个更和平、更有生命力的思考框架，正如水能穿石、能汇江海，能以柔克刚，AI的发展正需要这样一种东方智慧来平衡其间的激进与焦虑。”王江平说。
采写：南方+记者 郎慧
摄影：南方+记者 梁钜聪工程配资
杜德配资提示：文章来自网络，不代表本站观点。
热点资讯
