代表委员解码 AI 幻觉：双刃剑下的创新与挑战
发布时间：2025-03-10 14:50:47来源：
"AI 幻觉是否会影响医疗诊断准确性？"" 大模型为何会编造不存在的信息？" 针对网友关切，全国两会期间，多位代表委员从技术原理、应用场景和安全治理等维度，深入解读这一人工智能领域的核心议题。
"AI 幻觉本质是思维链偏差的放大效应。" 全国政协委员寇纲形象地比喻，大模型如同串行思考的人类，初始偏差会在推理过程中不断累积。例如在法律文书生成场景中，若第一步对条款理解有误，后续内容可能偏离事实。这种现象在创意领域却展现出独特价值，全国政协委员周鸿祎指出，DeepSeek 模型的 "幻觉" 特性使其具备突破性想象力，在药物分子设计等科研场景中发挥重要作用。
针对安全治理，代表委员们提出分层解决方案。全国政协委员王亮建议从算法优化、数据清洗和结果验证三个维度构建防护体系，通过多模型交叉验证和专业知识库比对，将幻觉误差率控制在可接受范围。工业和信息化部透露，已启动 "可信 AI" 专项行动，重点攻关医疗、金融等关键领域的风险防控技术。
"我们既要拥抱技术创新，也要建立风险熔断机制。" 全国人大代表、百度首席技术官王海峰表示，企业应建立分级分类的应用规范，对涉及公共安全的场景实施 "先验证后使用" 原则。数据显示，我国已建成全球最大规模的 AI 训练数据中心，日均处理数据量突破 2.5 亿 GB，为算法迭代提供坚实底座。
随着 "具身智能" 写入政府工作报告，AI 技术正加速向实体经济渗透。代表委员们呼吁，建立 "创新容错 + 安全监管" 的双轮驱动机制，在自动驾驶、智慧医疗等领域开展场景化试点，推动人工智能技术健康有序发展。
（责编： admin1）
免责声明：本文为转载，非本网原创内容，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
