更新时间:2026-11-17 10:23:24
人工智能(AI)企业近期纷纷削弱旗下新模型的网络攻击能力,以降低技术被滥用的风险。阿里巴巴、腾讯和月之暗面等AI企业近期推出的新模型,均削弱了网络攻击能力,同时强化网络防御功能。
其中,阿里巴巴发布最新一代旗舰通义千问模型时,未公开决定模型运作方式的内部参数,即模型权重(weights),使用户无法下载和自行调整完整模型。开放权重模型尤其受到黑客青睐,因为用户可在本地运行模型,并自行调整参数。深度求索(DeepSeek)的模型就曾被用于网络攻击,而阿里巴巴的通义千问系列,也是全球下载量最高的开放权重模型系列之一。
腾讯本月初发布Hy4模型前,也削弱了部分网络攻击功能;月之暗面推出Kimi K3.1 Pro模型时,采取了类似措施。智谱AI则在今年8月开放GLM-5.3模型权重前,进行安全审查,并向相关机构通报发现的系统漏洞。
AI模型的网络攻击能力,以及未来在生物领域的能力,将逐渐达到可能造成实际危害的临界点。
关键词:AI企业