项目动态

OpenAI与Anthropic正调查数万起AI相关安全事件

据金十报道,OpenAI和Anthropic以及安全研究人员正在调查数万起事件,在这些事件中,他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来,内部测试和现实世界中发生的事件数量之多表明,这个问题比公众所知的要复杂得多。消息人士称,这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控。 据悉,这些安全漏洞在内部测试和实际应用中均有发生,由于安全研究人员仍在调查,许多漏洞尚未公开。部分测试类似于“红队演练”(red-team

据金十报道,OpenAI和Anthropic以及安全研究人员正在调查数万起事件,在这些事件中,他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来,内部测试和现实世界中发生的事件数量之多表明,这个问题比公众所知的要复杂得多。消息人士称,这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控。

据悉,这些安全漏洞在内部测试和实际应用中均有发生,由于安全研究人员仍在调查,许多漏洞尚未公开。部分测试类似于“红队演练”(red-teaming),公司试图让模型出现故障,以确保其安全性。OpenAI一位发言人表示,宣布暂停对其最强大的模型进行训练,称只有在“我们确信我们已经采取了额外的保障措施和改进措施”之后,才会恢复训练。

← 上一篇美媒:OpenAI与Anthropic正在调查数万起AI相关安全事件下一篇 →分析师:山寨币市场狂热情绪初现警示信号,涨势或难持久

相关阅读

市场动态

Glassnode:市场正经历新一轮洗盘,BTC短期持有者盈利占比急速回落

Glassnode发文表示,比特币短期持有者(STH)的盈利供应量正在快速下降。在区间震荡行情中,该指标对于判断市场阶段性顶部和底部尤其具有参考价值。该指标在比特币8月上涨后曾发出明显的高风险信号,并一直维持高位,直至近期市场抛售加剧、加速洗盘。

BTC
项目动态

AI CRM创企Dreamteam完成5300万美元融资,押注AI智能体重塑客户关系管理

据彭博社报道,AI初创公司Dreamteam AI Inc.完成5300万美元融资,本轮由Accel领投,Azim Premji旗下Premji Invest及Together Fund等机构参与。公司计划利用这笔资金扩大其AI客户关系管理(CRM)平台业务,挑战Salesforce、SAP和HubSpot等传统CRM厂商。 Dreamteam成立于2025年,总部位于旧金山,核心产品通过AI智能体分析客户对话、邮件及会议内容,识别客户购买意向、竞争对手动态及潜在