多位学界及AI行业人士联署声明,质疑Anthropic安全承诺与商业扩张存在矛盾
一份题为《The Mis Anthropic Statement》的公开声明近日发布,指责 Anthropic 在竞相研发递归自我改进 AI、追求超级智能的同时,将自身塑造为 AI 安全公司,利用安全声誉推动商业与政治利益。 声明指出,Anthropic 一方面警告递归自我改进 AI 可能导致权力集中并脱离人类控制,另一方面却仍在竞相推进相关技术研发;同时借助安全品牌吸引投资者、员工及公众,却弱化自身安全承诺,并游说推动有利于自身的监管。声明认为,Anthropic 并
一份题为《The Mis Anthropic Statement》的公开声明近日发布,指责 Anthropic 在竞相研发递归自我改进 AI、追求超级智能的同时,将自身塑造为 AI 安全公司,利用安全声誉推动商业与政治利益。
声明指出,Anthropic 一方面警告递归自我改进 AI 可能导致权力集中并脱离人类控制,另一方面却仍在竞相推进相关技术研发;同时借助安全品牌吸引投资者、员工及公众,却弱化自身安全承诺,并游说推动有利于自身的监管。声明认为,Anthropic 并非一家安全的 AI 公司,呼吁外界拒绝其以公共利益为名扩张权力的做法。
联署者包括哈佛大学心理学教授 Steven Pinker、Hugging Face 联合创始人 Thomas Wolf、诺贝尔经济学奖得主 Oliver Hart、诺贝尔物理学奖得主 Sheldon Lee Glashow、图灵奖得主 Judea Pearl、xAI 联合创始人 Igor Babuschkin、Center for Humane Technology 联合创始人 Tristan Harris,以及 Future of Life Institute 创始人 Max Tegmark 等。
联署者还包括多位菲尔兹奖得主。声明发布之际,Anthropic 正推进首次公开募股(IPO)。
相关阅读
“AI股神”Leopold计划推出“Situational Awareness 2.0”,重开杠杆交易并募集新资金
“AI 股神” Leopold Aschenbrenner 正与主要经纪商及投资者讨论重启旗下对冲基金 Situational Awareness,计划推出“Situational Awareness 2.0”,重新开展杠杆交易并募集新资金。该基金今年夏季因杠杆押注面临流动性危机,资产规模曾从超过 200 亿美元迅速缩水,并一度需要获得 Citadel 创始人 Ken Griffin 的紧急救助。 Aschenbrenner 此前曾于 7 月承诺不再通过借贷放大投资押注
Web3Auth:社交登录创建的部分旧版钱包受影响,资产追回仍在进行
Web3Auth发布安全事件调查更新称,称11月6日确认其基础设施存在安全问题,影响部分嵌入式钱包,导致部分账户遭未经授权访问,受影响的主要是通过社交登录并使用旧版Web3Auth基础设施创建的钱包,包括Keplr、Torus Wallet及少数其他应用。Web3Auth已停用受影响服务并移除旧功能,12日恢复现有用户访问前增加身份验证检查和安全控制,并正与Keplr及安全专家追踪和追回受影响用户资产。旧版SDK已停止支持,使用相关版本的应用需升级。旧网络新用户登
美情报高官:近期多起技术宕机无关黑客攻击
美国情报高官告诉国会,美国近期一系列技术宕机事件彼此孤立,与黑客攻击无关联。美国国家情报总监杰伊·克莱顿在众议院国土安全委员会一场听证会上说,近期技术宕机事件“是彼此孤立的服务中断问题,与系统维护、技术调整有关”,“没有迹象表明罪魁祸首是外部主体或受国家支持的势力”。