外滩大会观察｜AI深度加速融入社会，人类如何守住自身能力底线

奔流新闻1小时前

00:00 00:00

随着AI不断深入人们的工作和生活，比“AI还能做什么”更值得回答的问题是：技术能力持续扩张时，人的能力、发展机会与责任边界，能否同步被保留下来？

9月11日，2026外滩大会举办“硅基VS碳基：文明的十字路口，我们准备好了吗？”主题论坛，科技、人文领域嘉宾共同探讨人机关系新命题。讨论覆盖学习成长、资源分配、智能体授权与安全责任等维度，最终指向核心共识：AI深度融入生产生活的当下，人类必须守住自身能力底线，建立适配新技术的规则体系。

AI时代的发展公平

北京大学客座教授、蚂蚁密算董事长韦韬分享AI时代的学习。

“AI最危险的时候，是它答得太好。”北京大学客座教授、蚂蚁密算董事长韦韬点出AI辅助学习的核心隐患。AI可以快速输出完美答案，帮助使用者高效完成任务，却会让人跳过思考、试错、修正的完整学习过程。看似高质量的成果背后，容易暗藏个人能力断层，一旦脱离工具、遭遇陌生难题时，独立解决问题的短板便会暴露无遗。

复旦大学教授、上海市青浦复旦未来技术研究院副院长、上海市数据科学重点实验室主任肖仰华分享智能时代看不见的代价。

复旦大学教授肖仰华从人的发展安全角度进一步阐释，真正的个人能力，只能在亲身实践、接收反馈、修正错误的过程中逐步养成。人类的自主性，不仅在于拥有选择的权利，更在于独立判断、自主决策并承担结果的能力。若大量思考与实践过程被AI替代，青少年将失去宝贵的成长机会。AI时代的发展公平，不在于能否使用工具，而在于不同基础的人群，能否借助AI获得真实有效的训练与成长。

技术进步背后的隐性代价

作家、学者、未来学家陈楸帆分享硅基未来。

技术进步的背后，隐藏着容易被忽视的隐性代价。作家、学者陈楸帆表示，大众只看到AI服务的便捷，却忽略了其背后庞大的电力、水资源、土地及产业链资源消耗。AI带来的便利红利、资源消耗成本与环境负担，往往由不同群体承担，让技术的收益分配、成本分摊、风险追责变得愈发关键。

与此同时，AI正在挤压大众成长空间。行业基础入门工作被自动化替代，新人失去循序渐进的成长路径；AI标准化的输出模板，也造成内容表达同质化，弱化了人与人之间的交流思辨。因此当下的核心争议，并非AI是否取代人类，而是智能成果如何共创共享、风险责任如何界定，以及普通人是否拥有管控AI服务的权利。

重构科学的人机协作模式

与会嘉宾认为，抵制人类退场并非拒绝AI，而是重构科学的人机协作模式。韦韬提出，AI可用于拓宽知识边界、降低探索成本，但无法替代个人核心知识体系的构建。学习中可借助AI答疑练题，但自主思考、实践复盘的核心环节不能省略，人类核验、辨析、判断的基础能力必须坚守。肖仰华也建议转变学习方式，通过学生出题“考验AI”、验证模型漏洞的方式，锻炼思辨能力，让AI成为提升训练效率的伙伴，而非代劳工具。

智能体安全管控不可或缺

CCF理事、YOCSEF秘书长、赛博英杰创始人谭晓生讲解网络攻防与验证。

产业应用中，智能体安全管控必不可少。清华大学副教授邱寒通过测试发现，智能体在复杂极端场景下会出现异常行为，常规状态的可靠无法覆盖特殊场景。对此需建立准入评测、实时监控、溯源审计和风险分担机制，确保事故可追溯、责任可落地。网络安全专家谭晓生也提醒，AI大幅降低网络攻击门槛，单人可依托智能体发起规模化攻击。网络防御需坚守人工把关，通过白名单、速率限制、全程审计、一键熔断等机制守住安全底线。

从学习训练、业务验证到责任追溯，AI技术持续升级的同时，人类的能力与规则体系必须同步迭代。人既要具备独立判断的能力，也要拥有干预、叫停技术的主动权。

“AI越是进步，人类越要发展。”现场嘉宾强调。

文·图｜奔流新闻记者张秀芸实习生王艺璐