通信界讯 人工智能真正要面对的问题是怎样在一个协作式的、去中心化的系统中实现集体智能，人类可以怎样去设计这个集体智能，去解决它的不确定性。

1951年，计算机科学之父、人工智能之父阿兰·图灵跟朋友有一个谈话，他做了一些简单的机器学习的事情，却发现教机器学习非常难，要么做错，要么做得很慢，要么什么事情都没有做。阿兰·图灵的朋友听后向他提了一个问题：到底是谁在学习？机器在学习，还是人在学习？

2023Inclusion·外滩大会上，中国科学院院士何积丰在演讲中将这段故事说给了观众听，图灵由此感受到了人和机器双方都在学习，人类指导机器，让机器学习变得更智能，而在指导过程中，人类也慢慢学会什么样的指导使机器能够符合人类需要的目标。何积丰在演讲的最后强调：“在人工智能发展过程中间，我们千万不要忘记人类的核心角色”。

刚刚闭幕的外滩大会以近8000平米的科技展区、近20位“两院”院士、诺贝尔奖和图灵奖得主，500位科技领军企业高管和专家学者吸引了世界各地的观众。数据安全、隐私计算等内容常谈常新，如何解决智能时代的信任问题受到各方关注。生成式AI、大模型仍是这场论坛中的热门话题，在期待科技“新世界”到来的同时，人类有许多需要先思考的问题。

在这个备受瞩目的金融科技峰会上，科技在行业的落地应用和可能改变的场景引发了无数讨论。我们该如何看待AI？如何学习保持人类的核心角色？又在走向怎样的一个“新世界”？

期待“新世界”

众多“黑科技”出现在了这一届外滩大会上。

未来养老公寓的展示区，展示了全空间全方位的智能化适老设备、自助医疗小屋、AI大脑训练设备等，初步展示了通过步调检测老年人的身体状况，通过玩游戏筛查人是否患有阿尔兹海默症风险的未来技术发展方向。出乎意料的是，许多年轻人成了这个展区的“重度体验玩家”，他们相信，这真的可能是他们未来养老的场景。

戴上特制头盔，系统就能够识别出体验者的脑电波波形特征，生成其专属“脑纹”， 这是由蚂蚁安全实验室联合中国信通院、脑机合作生产厂商博瑞康共同推出的脑机头戴核身技术互动技术。在这个技术展区，体验者实现了通过意念产生的“脑纹”解锁装备，“脑纹”将成为其独一无二的身份ID。“除了解锁，未来通过这个技术有没有可能实现意念控制物体？”有体验者立刻追问道。

无论是普通观众，还是行业的参与者、专业学者们都期待着新科技对未来的更多改变很快就会发生。

“一部手机就是一个银行网点。”IDC中国副总裁兼首席分析师武连峰在外滩大会现场发布了《银行数字科技五大趋势》：随身银行、AI风控、数字员工、边缘物联与云原生架构。

《2022年中国银行业服务报告》显示，银行平均电子分流率97%，9成以上业务都已实现线上化。IDC预测，到2025年，超过80%的银行都将部署数字人，承担90%的客服和理财咨询服务。而到2026年，将人工智能应用于信贷授信将成为银行的主流选择。由于更为复杂的模型、算法的应用，至2026年底，银行欺诈洗钱等案例将降低12%。

蚂蚁集团董事长兼CEO井贤栋则关心隐私计算的突破。他透露，蚂蚁在重点投入隐私计算，希望未来有一天加密计算的成本和效率做到今天的明文计算一样，那意味着，行业能够实现数据价值的交换，而非数据本身去交换，“那个时代会真正迎来数据时代的大爆炸。”

传统集装箱贸易的未来发展也被系上了区块链发展的快船。全球航运商业网络CEO陈斯嘉在外滩大会上表示，区块链电子提单从PoC验证（概念验证）阶段到了大规模商业化应用窗口期。

今年2月，全球数字集装箱运输协会组织宣布，全球前10大船公司中9家海运承运人承诺5年内将50%的原始提单实现数字化，到2030年实现100%数字化，从而加速集装箱贸易数字化。

陈斯嘉认为，通过积极引入区块链技术，借区块链网络来流转电子提单，确保提单内容和流转的真实性，大幅简化操作流程，可能使海运放行货物所需要的时间从传统的2-3天缩短到1-2个小时。

“AI的本质是集体”

今年科技界最为火热的大模型同样被金融从业者们期待着，蚂蚁集团在外滩大会发布了其金融大模型，度小满、恒生电子、同花顺、海通证券等金融大模型的探索者也出现在了外滩大会。

恒生电子董事长刘曙峰表示，大模型技术对财富管理服务的改变可能是全业务链的，在“投”、“顾”两端以及风控、运营、量化交易等领域都将发挥重要作用。从机构内部运营角度来说，大模型刷新了软件研发的新范式，长远来看，80%的代码可能将会是人工智能生成的，20%架构级的核心代码才会由人工提供。

“AI对全球经济的潜在收益将达到25万亿美元，是当前所有企业最重要的赛道之一，但这个时代刚刚开始。”麦肯锡中国区主席、全球资深董事合伙人倪以理在外滩现场预测，生成式AI的技术风暴有望开启一场关系到未来8-10年的新一轮技术和产业变革。

不过，在十分讲究领域知识和专业逻辑的严谨性、对错误容忍度极低的金融行业，拥抱大模型的同时，外滩大会上也传出了许多谨慎看待大模型“幻觉”，重新思考人与AI关系的声音。

蚂蚁集团机器智能部总经理、蚂蚁安全实验室首席科学家王维强表示，大模型可能分不清真假而带来的事实性偏差“幻觉”问题，由于数据偏见而带来的伦理问题，在知识学习和生成过程中的版权问题以及由此给企业带来的内部安全问题等，对从业者来说都是比较大的挑战。在大模型发展的同时，对大模型安全的检测、可信能力的建设乃至安全防御技术的发展等都是不可或缺的。

百度、蚂蚁、抖音等公司的隐私保护负责人也在外滩大会汇聚一堂，讨论大模型等新技术不断涌现的浪潮中，该如何做好隐私保护工作？

蚂蚁集团首席隐私官聂正军表示，面对大模型带来的风险和挑战，企业可以在大模型训练阶段使用匿名化的工具，防范未来模型本身带来隐私泄露或者个人信息被滥用的风险。还需要在大模型的商业化应用落地时，注意把服务它方产生的数据和自营业务里使用到的数据进行隔离。

百度数据合规法务负责人徐全全则建议，下一步隐私保护工作可能更多要走行业协同治理道路。每家企业在履行隐私保护、数据合规方面的责任责无旁贷，同时也要和上下游的合作伙伴协同共治，一起参与到隐私保护、数据合规的工作当中。

“AI的本质是集体，而不是个人。它只不过就是一个新的工程系统，科技就是一个非常好的新的工程系统，是普适，而且是公平、公正、透明、稳定的，这些特性是整个工程系统的特点，而不是系统当中个体的特点。”机器学习泰斗，美国科学院、美国工程院院士迈克尔·乔丹表示。

“我并没有觉得AI会替代人。”迈克尔·乔丹说。在他看来，人工智能真正要面对的问题是怎样在一个协作式的、去中心化的系统中实现集体智能，人类可以怎样去设计这个集体智能，去解决它的不确定性。

某种程度上，这一场集体的设计与协作，才是人类在科技飞速发展的过程中要保持核心角色所面临的最大课题。是机器在学习的同时，人类同样需要学习的部分。