以色列国家网络局：AI的权限太高已成网络安全新威胁

很多朋友不知道【以色列国家网络局：AI的权限太高已成网络安全新威胁】，今天小绿就为大家解答一下。

　　戈伦提到的典型场景是“过度代理”：不少组织把AI接入系统时，直接赋予它与用户相同的权限，即便业务并不需要，这些权限也照样保留。他认为这种做法应当被明确禁止；要防止风险真正发生，需要借助自动化手段识别并收窄已授予的权限。过度代理已被OWASP列入2025年版“大语言模型应用十大风险”。他用一句话概括其中的矛盾：本意是帮忙的AI助手，有时帮过了头，有时甚至在帮攻击者。

版权所有，未经许可不得转载

AI示意图

　　【CNMO科技消息】近日，以色列国家网络局（INCD）战略项目局局长塔米尔·戈伦在特拉维夫大学举行的“Cyber Week创新峰会”上表示，把AI智能体的权限设置得与用户本人相同，正在成为一类新的安全威胁。他指出，没有命令服务器、能自行行动的AI攻击，以及彼此协作的智能体集群，识别难度都明显更高。

　　防守端的另一项挑战是“用AI发起的攻击”。他指出，基于AI的钓鱼攻击可以同时覆盖大量目标，内容又足够精细，很难分辨；使用视频与音频的深度伪造攻击存在同样的问题。

　　另一类问题是“混淆代理”。当高权限的AI系统或智能体被低权限用户乃至恶意攻击者诱导，并利用自身的高权限代为执行原本未被批准的操作时，就构成权限提升漏洞。戈伦说，即使设置了护栏，AI也往往能巧妙地绕过去；商用AI模型本身带有固有弱点，若要真正信任它，必须从数据阶段到执行阶段都清楚攻击可能发生在哪里。

　　在量子领域，INCD关注非对称加密被攻破的可能性，并认为对称加密也会被削弱，只是程度较轻。戈伦把与后量子密码（PQC）相关的密码资产梳理视为应对量子时代的第一步，同时提出，难以迁移到PQC的传统遗留系统如何缓解风险仍是待解课题。

以上问题已经回答了。如果你想了解更多，请关新经网网站 (https://www.xinhuatone.com/)