主动式人工智能(Agentic AI)因其能够自主分析数据、做出决策和执行任务的能力,被广泛预测将成为2025年的关键技术主题之一。然而,这项技术也带来了前所未有的风险。
咨询公司高德纳(Gartner)最新研究报告《2025年战略性技术趋势:主动式人工智能》预测,到2028年:
主动式人工智能利用基于大语言模型(LLM)的知识和智能来推动流程自动化,通过做出决策和规划行动而不仅仅是回答问题。其创新点在于软件编排功能,系统可根据用户提供的任务信息和完成指导,自动制定执行计划。
高德纳(Gartner)杰出副总裁兼分析师加里·奥利夫(Gary Olliffe)和人工智能与网络安全研究副总裁杰里米·德霍恩(Jeremy D'Hoinne)指出了以下风险:
专家建议采取多层次防护体系: