微软的创始人比尔·盖茨有一句名言：“我们总是高估在一年或者两年中能够做到的，而低估五年或十年中能够做到的。”这句话用来理解人工智能的影响是相当合适的。目前，随着人工智能产业飞速发展，催生了新的人机交互模式，核心便是AI大模型驱动的智能体（AIAgent）（以下简称“ai助手”）。AI助手让“人机协同”成为新常态，个人与企业正在步入AI助手时代。
然而，伴随着快速发展，一系列问题与挑战也随之而来。如何在应对AI助手面临挑战的同时抓住发展机遇，实现AI助手的可持续发展和更广泛应用，成为行业需要深入思考和探讨的重点。
数据隐私安全、伦理和法律等成为挑战
“AI助手在快速发展的同时，也面临许多挑战和问题。”国务院发展研究中心创新发展研究部第二研究室主任杨超在接受记者采访时表示，在这些问题中，最为关键的还在于AI助手使用所带来的数据隐私安全、伦理和法律问题。
杨超认为，从数据隐私保护来看，由于人工智能系统本身需要依赖大量用户数据进行训练，必然会导致相关机构将AI助手服务期间获取和产生的数据用于AI助手本身的优化，即使通过删除个性化属性等方式对数据脱敏，数据隐私和安全问题也难以完全避免。尤其是随着AI助手的普及，其训练涉及的数据量将快速提升，从而进一步放大安全风险。
从伦理和法律角度看，随着AI助手能力的增强，其自主性和决策能力必然会显著提升，在部分应用场景中将会脱离人类的直接指令而开展自主行为。这些自主行为一旦产生外部性影响，就将引发伦理和法律问题。“一个经典的例子是，人工智能自动驾驶的汽车在行驶过程中，前方突然出现行人，改变行驶方向会伤害乘客，不改变方向则会伤害行人。这种情况下无论AI助手做出何种选择都会带来伦理问题。”杨超说。
清华大学复杂工程系统实验室主任、中国人工智能学会智能产品与产业工作委员会主任任勇在接受记者采访时表示，在当下阶段，AI助手仍然面临技术创新与场景适配度的挑战。
一是算法的精准性与可靠性。AI助手的核心——算法需要不断学习和优化以提高准确性和可靠性，然而，面对复杂多变的用户需求和场景，当前的算法往往难以达到期待的要求。
二是跨模态学习与环境理解能力。AI助手当前的技术水平仍存在一定的局限性，难以充分理解和整合应用时空变化的模态信息，对环境信息的多模态感知与理解尚有很大的提升空间。
三是场景理解与适应能力。有些场景化需求超越了简单的物理环境感知，需要与场景自身的底层逻辑、应用逻辑相结合才能理解，这对当下的AI助手而言是一个现实挑战。
“此外，AI技术的复杂性和变化性使得已有法规难以完全覆盖各种变动。当AI助手出现错误或造成损害时，责任追究便成了难题。”任勇说。
“AI助手面临的挑战还有算法偏见与歧视、过度依赖和成瘾。”清华大学人工智能国际治理研究院秘书长、欧美同学会研究院人工智能和数字经济研究中心执行主任鲁俊群在接受记者采访时表示。
鲁俊群认为，目前，AI算法的训练数据还存在不完备性和偏向性。由于AI训练所使用的语料数据本身可能客观上就存在着统计学上的一定偏差，还有可能存在开发者的个人偏好等，因此，现阶段的各种AI助手仍有可能存在一定的算法偏见与歧视问题。对此，有必要建立对技术背后训练数据和算法的审查机制，如通过建立AI伦理委员会等形式加强审核。
另外，“假如一名用户经常与AI角色互动来寻求帮助和安慰，容易对其产生情感上的依赖，以此来填补情感需求上的空缺，这有可能导致用户沉迷虚拟世界而忽视现实世界。对此，建议对于AI助手应该使用得当，同时应该注意保持与现实世界的互动。”鲁俊群说。
未来发展方向：垂直领域专业化、与具身智能的结合
“AI助手发展的方向是多样的，在技术路线和应用场景的双重影响下，将会迎来种类繁多的AI助手。”杨超认为，其中，有两个方向是较为确定的。
一是垂直领域专业化。在特定行业或领域，如家政、健康、医疗、法律、金融等大领域，甚至是制造业中不同行业等小领域，AI助手都将具备更深入的专业知识和技能，提供专业服务。
二是与具身智能的结合。随着人工智能能力的提升，其提供的服务将不仅是咨询和智力服务，而是通过更多的感知和操作，为人类提供直接与物质世界交互的能力。
任勇认为，就发展方向而言，AI助手在产业场景和个体场景中的应用虽然都基于人工智能技术，但在技术路径和响应机理上存在着显著差异。
AI助手产业场景的技术路径主要是针对特定需求，如制造业、物流、医疗、教育等，AI助手通常需要进行定制化开发，以符合行业的特定需求。利用相应产业所产生的数据，结合各种机器学习算法，AI助手能够自主学习和优化，实现智能排班、任务分配、数据分析、流程优化等高级功能。在此过程中，AI助手往往需要与企业的其他系统进行集成，如ERP（企业资源计划）、CRM（客户关系管理）等，以实现信息的共享和协作。通过上述技术路径实现对重复性烦琐任务的自主处理和数据洞察、科学决策、降本增效。
AI助手用于个体场景的技术路径主要是利用通用智能平台，如智能手机、智能家居设备等，通过语音识别和自然语言交互、多设备协同来辅助用户完成任务，提升日常生活的便利性和服务的精准性。
“在产业场景中，AI助手主要关注于提升效率、优化决策和降低成本，需要更多的定制化开发和集成协作；而在个人生活场景中，AI助手则更注重于提供便捷化、个性化、适应性服务，未来的技术创新只能围绕不同场景下各自的内生逻辑进行迭代优化。”任勇说。
鲁俊群认为，AI助手未来可能会向多模态交互以及具身智能方向发展。
“为了实现具身智能，需要将类ChatGPT等这些基础大模型与进化学习机制相结合，通过与物理世界交互取得的新数据（而不再是人类投喂的数据）来不断学习，并适应新环境，优化行为策略。多模态大模型能够整合视觉、听觉、触觉等多种感官数据，提升机器人的理解能力。使具身智能机器人在与物理世界的互动和理解方面更加人性化。这些未来的AI助手机器人可以自主理解场景、识别自然语言指令、规划任务，并执行操作，将是人类最得力的智能助理。”鲁俊群说。
从创新方向引导、应用场景规范方面为AI助手提供支持保障
当前，AI助手的服务升级与互联互通是国内多家互联网科技公司持续探索的重点。
杨超建议，第一，加强对用户隐私和数据安全的保护。强制性地将用户隐私和数据安全作为提供AI助手服务的前置条件，引导和鼓励相关机构采用先进的数据加密和匿名化技术，确保用户数据的安全和隐私。
第二，增强AI助手决策过程的可解释性，让用户能够理解其行为和决策逻辑，从而提高用户信任度。为整个社会更好接纳AI助手创造良好的环境，从而为在更广阔的应用场景中使用AI助手提供帮助。
第三，加强伦理和法规遵从。根据人工智能技术的进步及时修订相关法律法规，完善对AI助手进行规制的制度环境，确保AI助手的开发和应用符合伦理标准和法律法规，避免产生歧视、偏见等问题。
“国家政策层面应该从创新方向引导和应用场景规范两个方面出发，为AI助手的发展提供支持和保障。包括明确AI助手的适用场景和范围等，避免误用，更要避免国际资本集团假借技术触发虚假市场的滥用。特别是在医疗、教育、交通等关键领域，应严格规范AI助手的应用条件和程序。此外，要建立健全AI助手的监管机制，加强社会力量尤其是人民群众对AI助手应用的监督和评估，确保其合规性、合理性和安全性。对于违规行为，应依法进行处罚和追责。”任勇表示。
未来，企业可以利用AI助手优化现有业务流程，特别是在新产品研发和服务的创新应用方面，AI助手的普及将推动不同行业之间的跨界融合和协同发展，为企业带来新的商业机会和合作伙伴，进而带动商业模式和生态的变革。
中央财经大学数字经济融合创新发展中心主任陈端在接受记者采访时认为，企业运用AI助手强化核心竞争力需要一系列的战略规划和技术实施。
一是要识别关键业务场景，深入了解业务需求，确定AI助手在哪些环节能够发挥最大价值，然后为选定的业务场景明确具体的需求和目标，如提高客户满意度、优化库存管理、增强市场分析能力等。
二是根据业务需求和技术成熟度，选择适合的AI技术和解决方案，要充分考虑与现有系统的兼容性，确保AI助手能够顺利集成到企业的IT架构中。此外，还要建立完善的数据治理体系，避免因为数据偏差导致的结果偏差。
三是需要设立明确的评估指标和机制，对AI助手的性能和效果进行定期评估，及时调整和优化AI助手的算法和模型，以提升其准确性和效率。此外，还需要关注AI助手可能带来的伦理和社会问题，确保其应用符合道德和法律规范。
津公网安备12011002023007号