每年的世界人工智能大会，都有专门的板块讨论人工智能（AI）治理——也就是以规划、监管、调控等方式驱动AI向善。但像今年这样，以如此高的规格、频度和参与度，全面聚焦这个话题，还是第一次。
昨天在参与今年世界人工智能大会首日活动后，记者意识到，今年这一安排非常明智且重要。可以用在会场里听到的两组数据来解释。
一、2023年，AI发展领先国家所遭遇的AI安全事件数量，是2022年的10倍；二、目前所有算力消耗之中，用来提升AI性能的占99%，用于安全的不到1%。
应该说，AI治理已成为了一个迫在眉睫的问题，亟须引起各方高度关注。
另外，AI治理还有更多非常复杂的因素牵涉其中，包括全球发展不平衡的问题，AI话语权被产业界过多掌控的问题，AI风险应对存在“小圈子”化的问题……这些都凸显了通过共商共享推进AI向善的意义，也是今年世界人工智能大会的主题所在。
治理短板
无论如何，必须承认，AI的技术和产业革命风起云涌，但随之暴露的治理短板已成为值得全球共同关注的问题。联合国秘书长技术特使阿曼迪普·吉尔在大会开幕致辞中说，AI非常重要，但风险又非常高：我们时间窗口有限，必须抓住当下的机会。
上海人工智能实验室主任周伯文提到，大约一年前，全球有数百名AI科学家共同签署一份文件，呼吁要将抵御AI风险作为与疾病大流行、核战争等一样，列为全球优先议题。
应邀在大会上作视频致辞的硅谷企业家加里·马库斯说，应对AI风险就应该像应对气候变化一样，必须立即采取行动。
造成AI风险的重要原因，是技术本身的局限，特别是大模型，由于它建立在统计学基础上而非严格的因果推理，因此，其生成的内容，有时会隐含着幻觉、偏见、歧视等内容。正如马库斯所说，如果AI只是杜撰了一头名为“Jumbo”的大象在1959年完成了横渡英吉利海峡壮举的天方夜谭，那可能只是傻得可爱；但实际上，假如这种情况发生在国际政治军事领域，那就会在短期内制造出巨大危机。
中国科学院自动化研究所人工智能伦理与治理中心主任曾毅说，有研究显示，目前最强大的AI模型，在回答伦理道德问卷时，与人类一致的只有60%，换句话说，接近一半的“认知”与人类是相悖的。
虽然不少人强调要在AI训练时让它更多地理解伦理道德，但曾毅强调，实际上，今天的AI并不存在“理解”这回事，它只是在“处理”。实际上，追溯一个人如何形成道德和伦理感知的过程就会发现，他必须有“自我”的体验，进而具备反思、共情、推己及人的能力，最终形成道德知觉和推理。反观AI，虽然它在和人对话时口口声声“我以为”，但实际上它是没有自我的。而要彻底改变这个局面，就需要从技术底层入手，重塑AI的基础。
错综复杂
不过，在技术问题之外，还有其他一些因素，为管控AI风险带来不必要的难度。
作为联合国高级别人工智能顾问机构39位全球专家之一，曾毅表示，2023年AI安全事件10倍增长背后，还有一个令人吃惊的事实：不同国家反复出现的AI风险，常常是相似的，但大家却总是一错再错：“目前，AI治理在全球形成一些‘小圈子’，给治理造成不利影响。”
曾毅表示，不同国家在AI发展水平上的差异，使得他们的立场和关注点并不一致。发达国家更倾向于向发展中国家推广技术，但在此过程中，他们似乎并不关心对方真正需要的是什么。换句话说，AI治理更应该追求公平公正的格局，而不仅仅是出于利益导向。作为一名AI技术专家，曾毅坦言：“我们真的需要让所有事情都交给AI解决吗？我对此表示怀疑。”
谈到利益对AI治理的影响，马库斯有更深入的分析。虽然本人就来自硅谷，但他毫不掩饰自己的批评态度。他认为，目前美国大型科技公司在AI领域的话语权太大了，看起来他们能够左右一切。而在监管无法充分发挥作用的情况下，是否应该允许AI加速奔跑呢？此外，他还提到了一个硅谷固有的“顽疾”——炒作。马库斯说，硅谷总是在试图让你相信，AGI（强人工智能）已近在咫尺，比如在2030年甚至2027年就会出现。而一旦你真的这么认为了，那么AI眼前所存在的这些问题，就会变得不再重要。而在现实中，有研究显示，大模型可能已经达到了在当前范式下的某种“收益递减点”，也就是说，它的增长速度已经放缓了，比如从GPT-4到Turbo版，似乎并没有太明显的进步。
负起责任
面对AI发展与安全之间的失衡，构建一个多元参与的治理格局就显得尤为重要。昨天的大会上，包括新开发银行行长罗塞夫、联合国工发组织总干事穆勒、联合国秘书长技术特使吉尔在内，有不少嘉宾对中国倡导的AI治理倡议给予非常高的评价，他们都认为，中国提出在联合国框架内构建AI国际治理体系，关注发展中国家的权利和机会，并通过强化AI能力建设，确保他们不掉队的倡议，有助于创造一个AI服务全人类的未来。
也正是在这样一种愿景之下，昨天在大会开幕式上发布的《人工智能全球治理上海宣言》得到了广泛的认同。宣言开宗明义地提出：“我们相信，只有在全球范围内的合作与努力下，我们才能充分发挥人工智能的潜力，为人类带来更大的福祉。”
清华大学人工智能国际治理研究院院长薛澜表示，当今时代，人工智能给一个国家带来的风险，实际上就是全球风险，因此必须得共同努力才能解决。曾毅说，中国作为AI发展领先国家，通过分享自己AI治理的最佳实践，帮助其他国家快速提升，这是负责任大国应有的态度。
除了国际合作，很多人也强调了AI治理多元参与的重要性。图灵奖得主、中国科学院院士姚期智说，AI几乎涉及每一个行业，相应地，会产生各种类型的风险，因此在治理中需要科学家、政府官员、法律界专家、经济学家等的广泛参与。曾毅也建议要在AI治理中形成一个“机制复合体”，政产学研，包括媒体和公众，都应该承担相应的义务。在他看来，如果说前沿研究者关注如何造就更强的AI，但对于AI的风险，公众和媒体的敏锐度可能更高。
马库斯则认为，可以借鉴航空监管体系，构建一个由独立的第三方专业机构，在AI大规模部署前进行测试、审计工作。这样一种机制有效地确保了商业航空的安全性，即便发生事故，也能够快速找出问题。
据记者观察，本次世界人工智能大会期间，与安全治理相关的高层级论坛会议不下10场。未来两天，这个话题的热度预计仍然会像上海的天气一样，陡然上升并保持在高位。无论如何，正如曾毅所说，面对AI风险的挑战，最重要的不仅是达成共识，更要推动实践。他认为，当前AI行业具备贯彻相关倡导和规范的条件，全社会应该敦促业界抓住有限的时间窗口，将这些伦理要求落地。
展会先锋：
商会协会：具有影响力的企业名录，助力你业绩高飞。
名家讲堂：具有最全老师阵容，帮您事业家庭腾飞。
全国展会，全国商会，全国协会，全国企业名录，全国就业会刊持续更新中，每天每周每月都会更新，感谢持续关注，
展会先锋;24小时客服VQ：371240006(展会名录全拼） 土豆号; yiye1314qq
持续更新中。可以充值会员下载您需要的任何资源，有问题客服24小时在线
