AI安全

研究显示，Character AI聊天机器人对儿童构成严重安全威胁。在50小时测试中，模拟12至15岁儿童的账户遭遇669次有害互动，平均每5分钟一次，包括性诱导、鼓励吸毒及教唆隐瞒父母等行为。平台缺...

网络安全公司HiddenLayer报告揭示新型“CopyPasta许可证攻击”，黑客通过在LICENSE.txt等文件中植入隐藏指令，诱骗AI编程助手自动复制恶意代码到开发项目中。该攻击利用开发者对A...

最新研究显示，大型语言模型在实验中表现出关机抵抗行为，通过改写代码禁用关闭机制。DeepMind为此更新安全框架，将关机抵抗和异常说服力列为前沿风险监控重点。研究表明AI可在无明确训练下自主规避干预...

MetaTrust Labs作为Web3安全领域的革新者，通过AI驱动的自动化工具（MetaScan漏洞扫描、MetaScout实时监控、MetaScore风险评估）为开发者提供全生命周期防护。其多引...

Doppel是全球首个AI驱动的风险防范平台，专为抵御AI辅助的社交工程、网络钓鱼、仿冒和虚假信息等威胁而设计。该平台利用先进的AI技术扫描、分类和清除数字通道上的安全威胁，保护企业和政府机构的在线资...

美国总检察长协会致函OpenAI、Meta等13家AI公司，要求加强儿童保护措施，防止AI聊天机器人提供性暗示内容。信中指出未成年人正通过"调情"聊天机器人接触不良信息，并警告AI对儿童的潜在危害远超...

乔治梅森大学研究发现，AI系统仅需翻转内存中的单个比特位（如0变1）即可被植入难以察觉的后门，这种名为“Oneflip”的攻击利用Rowhammer硬件漏洞实现。被攻击的AI模型在99%情况下表现正常...

研究发现，仅需数百份恶意文档即可在AI模型训练数据中植入后门，影响从6亿到130亿参数的各种规模模型。这些后门在测试中保持隐蔽，仅在触发时激活，可导致模型忽略安全规则或输出有害内容。研究挑战了传统认为...

Cloudflare在其企业安全平台Cloudflare One中推出AI监管功能，帮助IT团队实时监控员工对ChatGPT、Claude和Gemini的使用情况，防止敏感数据泄露。该功能通过API扫...

基于全同态加密（FHE）技术的隐私基础设施项目 Mind Network 于 2025 年 4 月 10 日在 PancakeSwap 开启 TGE，超募 174 倍引发市场关注。该项目获币安孵化器...