从2023年的ChatGPT，到2024年的Sora，再到今年的DeepSeek，人工智能（AI）尤其是生成式人工智能正以燎原之势赋能千行百业。
4日举行的十四届全国人大三次会议新闻发布会上，大会发言人娄勤俭点赞DeepSeek，表示通过这类公司的兴起，可以看到“中国在科技发展上的创新性和包容性”。
毫无疑问，人工智能技术给人类社会带来了深刻变革。如何不断实现技术创新和产业创新，如何让“人工智能+”为各行业插上腾飞的翅膀，以及该如何消弭AI技术带来的技术隐忧、伦理困境，真正使之成为推动社会进步的“战略支点”而非悬在半空的“达摩克利斯之剑”，代表委员展开热议、提出建议。
寻求解决AI“说谎”之道
一个案例让全国人大代表、立信会计师事务所（特殊普通合伙）首席合伙人、董事长朱建弟感触颇深。今年2月1日，美国“政府效率部”团队用智能审计技术对美国联邦部门开支展开全面调查，仅3天时间就扫描成千上万的资金流水。
“这对行业来说是场颠覆性的革命。”朱建弟说，通过推动审计与数字化、智能化技术深度融合，AI凭借成本低、多模态数据处理能力强、自适应学习等特点，帮助审计行业快速处理文本、图像、语音等审计数据，实现审计工作从“手工作坊”向“智能工厂”的转型。
但他坦言，目前社会上对AI赋能审计行业存在疑虑，比如监管机构对AI技术仍持谨慎态度，从业人员对 AI工具不完全信任，客户担心数据隐私和安全风险问题。“从业者结合专业经验，采用人机协作模式，提供更专业、定制化服务。”他建议，使用云端模型时，要做好敏感信息脱敏处理工作，对客户名称、金额等敏感字段进行匿名化处理。
“从业者需要对AI输出结果进行审慎评估和验证，不能盲目依赖。”朱建弟提醒。这并非危言耸听，许多使用者发现到AI大模型会出现幻觉，即大语言模型编造它认为是真实存在的甚至看起来合理或可信的信息，简而言之就是在“一本正经地胡说八道”。“其主要根源在于数据被污染，目前还出现了给AI‘投毒’（即喂假料）的情况。”有委员说，AI解决了逻辑性与算法的问题，但解决不了最原始的问题——互联网数据存在良莠不齐，需要通过提升技术识别能力设置“防火墙”。
还有代表委员认为，要让AI技术向善，不仅要盯住AI服务的提供者，更要“前置”到对技术开发过程提出规范。全国政协委员、中华全国律师协会监事长、国浩律师（上海）事务所合伙人吕红兵呼吁，以小快灵的形式推进立法，尽早制定生成式人工智能行政法规。
“从开发伊始，就要对其设有正确的价值判断”。他建议，开发者要对用于训练大语言模型的数据进行严格筛选与分类，确保数据源合法且内容健康，剔除不当元素文本数据；对于现有模型，消除其不当内容输出，或在干净数据上重新训练生成；应推动开放研究、社区合作、线索举报等措施，优化大语言模型的筛选机制。
厘清高校AI使用边界
“现在应该不会有高校对AI说不了。”采访中，多位来自高校的代表委员发出感慨。AI正改变传统的教学关系，由原先“师、生”二元结构逐渐向“师、机、生”三元结构过渡。
在全国政协委员、复旦大学数学科学学院教授郭坤宇看来，AI应用相当于给大脑装上“无穷大”的知识包，将有利于基础学科人才培养。他建议强化数字思维、AI工具在基础学科专业课程上应用, 推动专业课程的数智化融合，培养和提高学生复合知识、交叉思维和创新能力。此外，还要用好数据建模和数字画像等工具，构建专业办学智能监测与评估体系，打造数智赋能的质量保障闭环。
当然，每一项新技术都存在“双刃剑”问题。AI赋能教育同时，也带来一系列道德问题与诚信风险，比如代写作业和论文，伪造或篡改数据和图表，侵犯隐私和知识产权等。因此，厘清“AI+”使用的边界尤为迫切。全国政协委员、上海应用技术大学校长汪小帆建议，由事后监管改为事前规范，在国家层面出台高校人工智能工具规范使用指南，明确高校师生在教学与研究过程中使用的合理边界。在他看来，一方面，之前国家层面已集中出台相关规范文件，另一方面，不少高校也做了不少积极有益的探索，这都为制定全国高校使用指南打下基础。
还有代表提到，单纯依靠生成式AI可能会削弱学生思维；AI无法像教师一样给予情感关怀，不利于培养学生情感智力与社交能力。他们建议，应当明确哪些教学活动能由AI代替人做，哪些AI辅助着做，哪些由学生独立做，例如，在实验科学领域，AI可以实现理论讲解、模拟演示、数据分析等，但学生要通过亲身实践来获得直接感悟。
正因AI的复杂性，全国人大代表、上海科技大学常务副校长印杰呼吁，要把人工智能教育当作基础教育来抓。“我们学校已将人工智能应用基础课程列为必修课，同时探索‘专业+人工智能’的学科设置模式。”他建议参考计算机等级考试模式，设置“人工智能应用”等级考试。
夯实AI产业发展底座
尽管存在多面性，但AI产业发展不可阻挡。如今，上海AI产业在产业规模、技术体系和企业数量等方面跻身国内第一梯队，在智能芯片、基础智能软件、智能网联汽车、无人载具、智能机器人、智能医疗器械等领域呈现一定优势。
一些短板不容小觑。上海市全国人大代表专题调研小组《促进“人工智能+”与发展新质生产力专题调研报告》提到，目前我国涉及AI产业化的基础理论和原创算法研究相对薄弱，在基础大模型的理论探索、研发迭代方面，与国外顶尖科技公司有较大差距。调研报告建议，加大对AI基础学科领域特别是AI数据科学的相关基础理论研究、关键技术研发与应用创新的顶层规划设计和统筹，夯实高质量语料库建设基础。
“大学，尤其是位于上海的一流大学有人才智力集中的优势，有学科专业全面的优势，有研究基地和科研设施齐全的优势，有国际合作交流的优势，理应成为推动人工智能技术创新发展的最佳策源地和研究先导区。”全国人大代表、民盟上海市委副主委、同济大学特聘教授顾祥林说。
有代表建议，支持全国高校“强基计划”进一步升级扩容，筑牢数学、物理、光学、信息科学等基础学科优势。面对AI紧缺人才现状，应前瞻布局自动化机器学习、量子机器学习、多模态数据分析、边缘计算与实时数据处理等新兴专业。
“我们需要研究如何通过金融手段和方法来激励企业的AI在内的科技创新。”全国人大代表、清华大学国家金融研究院院长田轩说。建议鼓励国有投资公司牵头，行业龙头企业共同发起设立AI母基金，发挥母基金在推进政府资源与社会资本协同联动上的主渠道作用，布局AI基础设施以及AI科技领域和产业领域前沿方向、关键环节和共性问题，打通“企业——高校及科研院所——AI技术市场”链条的堵点。
也有代表提醒，大模型只是通用AI的发展路径之一，并且因能源消耗巨大等原因使其可持续性存疑。AI公司需要积极探索新的通用AI发展路径，包括发挥小模型的大用场，真正走出一条产业化之路。
原标题：让AI成为“战略支点”而非“达摩克利斯之剑”，代表委员认为须关注这些问题
栏目主编：张骏
本文作者：解放日报 洪俊杰 王闲乐
题图来源：上观题图