9月7日，2024 Inclusion·外滩大会正式闭幕。事实上，这一天下午，距离大会闭幕几个小时前，仍有观众在排队入场。官方数据显示，本届大会共吸引了5.2万人现场参会，无论是参会规模还是国际嘉宾的数量，均创下了历史新高。除了年轻人，记者注意到，观众队伍中还有不少老人、小孩。
本届外滩大会以“科技·创造可持续未来”为主题，包括36场开放见解论坛、10多场创新者舞台、2场AI创新赛事、1场10000平方米的展览以及1场绿色生活节和1场科技人才招聘会。据统计，三天时间内，有30余项AI新成果在本届外滩大会发布，包括蚂蚁AI生活管家“支小宝”、AI金融管家“蚂小财”，AI健康管家等。
10000平方米的展览场地汇集了众多企业参展，记者观察到，相比往年，准备各类装备体验、互动的厂商越来越多了，许多展台前，观众为参与体验排起长队。重视人文性，成为本届外滩大会的一大特点。除了开幕式上24岁的独臂男孩周键借智能仿生手演奏钢琴的动人瞬间，在外滩大会的展区，借助设备观众可以体验将脑电波以花朵的形式可视化，让瞬间的情绪形成纪念。还有可实现“拥抱传递”的设备，穿戴上内嵌人造肌肉纤维的特制背心，当另一个人拥抱装有压力传感器的模型时，体验者便能感受到模拟其声控、触觉反馈和温度调节等多种感官元素的“远程拥抱”。
在这一年的外滩大会上，如何让“技术向善”的讨论和研发更加被业界重视。
AI医疗受关注
为期三天的展览中，AI医疗的相关产品、企业展台总有着最多的人流量，“爸妈记忆力下降了怎么办？”“AI如何辅助癌症筛查？”这些问题让不少观众不自觉就迈入了相关展区，不断有老人加入脑健康检测，有年轻人加入脑电波的“画图”。
“和去年相比，今年外滩大会AI人工智能的份额感觉更高了，而且不是像之前傻乎乎的那种，今年的很多应用是真的有用的，明显能感觉到算法提升了很多，比如说面部识别功能或者语音交互功能，都感觉上升了一个档次，效果变好了，所以大家体验的热情也高。”一位参会的展商对记者表示。
来不及喝口水，达摩院AI医疗展台的工作人员就迎来了下一位咨询的观众，今年的外滩大会上，达摩院医疗AI实验室展出了其AI医学影像分析产品，借助AI技术，这项产品能够从平扫CT中进行胰腺癌、食管癌、肠癌、胃癌等八大癌症及一系列慢性病的筛查，吸引了不少观众。
展台的工作人员告诉记者，通过AI识别，这项产品能够在肝癌、肺癌等癌症筛查中达到90%以上的准确率，提升医生的工作效率，补足一些医疗资源不均衡带来的问题。
“其实这项技术主要是面向B端的，为医生服务，客户更多是医院、体验机构、保险公司、公益组织以及软件厂商之类的，但这两天很多个人也非常感兴趣。”上述工作人员表示。尽管许多AI医疗产品并未直接面向C端用户，但外滩大会的观众们对AI医疗将如何改变疾病的诊治感到好奇。
博斯腾科技的展台则吸引到了大量的老年观众，许多老人纷纷拿出手机通过支付宝“碰一碰”进行答题，检测自己得阿尔兹海默病的风险指数。展区的工作人员介绍，通过许多数据、资料的支撑，这款产品能够通过答题测验、语音交互、动作识别等方式检测阿尔兹海默病，并通过大模型生成用户专属的脑健康训练计划。
“我们的产品2020年成型，但借助摄像头的动态识别功能是今年刚推出的，主要是借力于AI功能的发达，包括训练方案的推荐，也的确在大模型出现后智能了很多。”该展区的工作人员告诉记者。随着AI的发展，更多AI医疗产品的“进化”值得期待。
需要强调的是，目前，许多AI医疗产品的诊疗效果仍缺乏公开数据或第三方权威机构的验证，相关展台的工作人员也均表示AI医疗产品无法完全代替医生诊疗需求，以辅助作用为主。不过，AI在医疗问题中的应用的确被业界期待。
不少大厂也在押注AI医疗赛道。外滩大会上，支付宝发布AI应用新产品“AI健康管家”，为用户提供找医生、读报告、陪看诊、问医保、管健康等30多项AI健康服务。百川智能创始人王小川则介绍，百川智能将重点在大医疗AI领域做投入，从儿科医生、全科医生两个切入点发力，希望在明年实现医疗的低成本和可及性，减少医院的挤兑现象。
全国政协常委周汉民在外滩大会的一场论坛中表示，随着人工智能等新技术的不断发展和应用，医疗产业正迎来一场深刻的变革。据他观察，从最初的影像诊断、辅助诊疗、基因检测，到近年来的药物发现、临床试验、健康管理等，人工智能在提高精准度与效率、个性化治疗、数据处理等方面具备显著优势。他指出，医疗健康与人工智能的融合还延伸到了中医领域。
谈及人工智能在医疗产业的应用情况，周汉民表示，人工智能在医疗健康产业的应用应着力提高精准性、适用性和安全性，此外，还需关注人工智能的引入是否会导致医护人员技能萎缩、对人工智能的信任的误判以及信息超载。
以AI对抗AI
在期待技术带来美好生活的同时，如何预防技术“作恶”也成为外滩大会讨论的热点话题。
今年的外滩大会上，举办了包括“afac2024金融智能创新大赛”和“全球Deepfake攻防挑战赛”两场子赛事在内的AI创新大赛，由于近日韩国曝出“Deepfake”（深度伪造技术）事件，被认为是采用新犯罪手段的“N号房”案件重现，以AI对抗AI，Deepfake攻防挑战赛尤其受到观众的挑战。
事实上，随着AI技术的发展，Deepfake滋生欺诈等黑色产业链，AI换脸欺诈带来的经济财产损失、名誉受损等事件正在成为全球挑战。
在外滩大会展区，许多观众现场拍照，然后利用Deepfake换脸模型和算法，通过视频活化、微笑和眼镜模版对观众的真实照片进行换脸，亲身感受了Deepfake的逼真。
而在外滩大会AI创新赛·全球Deepfake攻防挑战赛的表演赛上，观众更是为AI识别AIGC伪造图片感到激动。在这场表演赛中，主持人拿出了9张玛丽莲梦露等女星的照片，其中2张是AIGC伪造的，选手用自己的参赛模型给出每张图片的伪造概率值，并对概率值最高的2张照片与正确答案进行比对。最终，两支参赛队伍的模型都找到了正确答案。
在后续的互动中，一个有趣的现象是，人类肉眼能够看出“一眼假”的伪造图片，AI可能识别不出，一些肉眼真假难辨的图片，AI反而能识别。新加坡科技研究局周天異教授分析，人类在判断图像是否伪造会依赖直觉和逻辑，一些人类一眼便知的问题AI无法联系相关背景、情形无法识别，而一些难以识别的图片，AI一丝不苟、勤勤恳恳地完成人类指令的工作模式反而能找出问题。他表示，相比“一眼假”的图片，恰恰是这些难以识别的图片往往给人类带来更大损失，因此，用AI应对Deepfake有着重要意义。
“从我们现在看到的数据来看，我们叫Deepfake的攻击也好，AIGC的生成伪造，今年的攻击量比去年大概增加了10倍，去年攻击的浓度大概是1%，今年就是10%。整个风险其实是呈指数级上升的情况，这不仅仅是在中国，在韩国，在菲律宾、印尼等国家都有类似的情况发生。”外滩大会AI创新赛·全球Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟斌表示，10%的浓度意味着业界发现线上的流量有10%是Deepfake的流量，随着AIGC的发展，生成的成本会越来越低，效率越来越高，明年可能不是20%，可能是50%，这是一个必须重视的威胁。
更多引导AI向善的观点也在外滩大会被讨论，姚伟斌坦言，研发检测算法，只是遏制Deepfake技术滥用的方式之一。这种方式是相对滞后的。如果要从根源上防范欺诈行为，姚伟斌认为应在标准和立法角度，要求给A IGC 内容建立通用标识，比如每一张AIGC生成的视频或图片都在文件信息里带一个签名或水印，这样平台管理更有依据，也能让AIGC 可以更可信。
“让人工智能帮助人弹钢琴，而不是作恶。”是本届外滩大会反复强调的价值观。上海市数据科学重点实验室主任肖仰华表示，AI的大规模滥用是可能损害人之为人的本性的。要有所为有所不为，但凡伤害人之为人之本性的AI应用，我们要谨慎，要加以限制。为此，“我们要重视技术治理，并将治理提前考虑，做到未雨绸缪。”
浙江强脑科技创始人兼CEO韩璧丞则表示，AI伦理委员会的存在非常重要。技术前进的时候，更应该关注“走的慢”的人。“当一个足以改变世界的技术出现时，我们先用它来帮助最需要的人”。