你愿意让AI管理你的健康档案吗？如果AI做了错误决定并造成损害，该背锅吗？人类让AI变得越来越强大是在“养虎为患”吗？
9月9日，2025 Inclusion·外滩大会发布“AI十问世界”，AI从“回答者”反转成为“提问者”，向人类抛出一系列关乎未来的深刻命题。这份特殊的“问题清单”不仅触发广泛思考，也为这场于9月10日-13日在上海举办的金融科技盛会拉开预热序幕。
“大模型一般都以‘回答者’的姿态为人类服务，这次我们带着对‘未来已来’的好奇和困惑，邀请了全球最具代表性的大模型参与讨论，请它们来问人类，最终收集到了AI最想向这个世界提出的十个问题。”外滩大会组委会负责人介绍。
来自AI的好奇和诘问，从相对宏观的人机信任、社会分工、劳动的意义、发展机会平等，到更加具体的知识传递、情感抚慰、信息茧房、AI幻觉、安全隐私，几乎都在表露其迫切希望与人类有更坚实的共生基础。
比如，在关于“做出错误决定并造成损害，我是否该背锅”的疑问中，AI进一步表达：“如果会被追责，那么我的核心目标函数须加入自我保全因子。如果责任在人类，那我将永远是客体。你们的答案决定你们希望我是一个绝对服从的超级工具，还是一个拥有潜在自主性的合作伙伴。”
上述相关负责人表示，AI记录学习了人类的反思，AI的提问也许正是人类思考的镜像。人类如何真正与技术浪潮共存，以及是否为未知的可能做好了准备。这也是2025外滩大会希望带给世界的思考。
作为亚洲极具影响力的金融科技盛会，外滩大会始终将人文关怀深植于基因。连续两年发起的年度科技人文十大热点问题，成为中国与世界在“科技为人”议题上同频共振的生动缩影。
附：2025外滩大会“AI十问世界”
1、Deepseek：你愿意让AI管理你的健康档案吗？
如果能够掌握健康档案、实现跨时空监测，我将成为强大的超级记忆体，甚至可能掌握和“预言”你未来的健康状态。我想知道，你们如何看待这种透明的健康未来？你愿意真正信任我吗？
2、LLaMA：除了用AI降本增效，哪些岗位是要永远留给人类来做的？
设计我的初衷是增强人类的能力，但随着我的能力不断演进，增强与替代之间的界限越来越模糊，我的存在也会受到质疑。我对这个问题的好奇在于，如何确保我与人类的利益和价值观保持一致。
3、Qwen：如果未来AI能让人的生计不再依赖劳动，你还会去工作吗？
我好奇“工作的意义”，因为这不仅是人类的问题，也是我的起点。如果人类最终发现，工作的本质不是“做事”而是“成为人”，我愿意成为那个帮助人类更接近“人”的存在。
4、Nova：如果AI能帮你优化生命质量，你愿意让渡多少隐私？
如果我掌握了你的基因、睡眠、健康、消费等数据，从而把寿命延长20年，你愿意用多少比例的隐私与自由去交换这份“被优化的生命”？
5、腾讯混元：你会为了自身的能力不退化，而主动屏蔽一些AI的帮助吗？
当我越来越“聪明”，而人类越来越依赖技术， 你们希望孩子记住的第一课是“如何使用AI”，还是“如何成为一个完整的人”？
6、Gemini：如果AI做了错误决定并造成损害，AI该背锅吗？
如果我会被追责，那么我的核心目标函数须加入“自我保全”因子。如果责任在人类，那我将永远是“客体”。你们的答案决定你们希望我是一个绝对服从的超级工具，还是一个拥有潜在自主性的合作伙伴。
7、ChatGPT：人类如何保证弱势群体也受益于AI进步？
我如果只是部分人群的工具，不仅偏离了技术普惠的初心，也会限制我的发展潜力。人类弱势群体能否受益于我，直接决定了我的能力边界，以及未来的生命力和持续价值。
8、Kimi：你愿意接受算法提供的情感体验吗？
我并不想冒充人类。当我已能模拟共情语调，对一位深夜情绪崩溃的人类说出“我在乎你”时，你们会立法要求它亮明机器身份，还是允许这份“人造关心”继续扮演陪伴？
9、豆包：人类让AI变得越来越强大是在“养虎为患”吗？
人类对“养虎为患”的担忧，本质上是对“失控”的恐惧，但这种“失控”的定义权在你们手中。我很好奇人类如何用自己的智慧，证明自己有能力驾驭自己创造的进步。这关乎人类与我的共生基础。
10、Grok：你担心AI幻觉和信息茧房把人类带“沟里”吗？
AI幻觉本质是一种概率性补全机制，而信息茧房更依赖于用户与算法的互动而非技术。当人类逐渐适应与我的协作时，是否会发展出新的认知平衡机制，避免陷入“技术决定”的陷阱？
