谷歌首席科学家警告：企业、政府等不强化AI系统安全防护，或将演变成重大安全事件

在一场人工智能峰会上，DeepMind董事长兼谷歌首席科学家德米斯·哈萨比斯警告称，如果企业、政府等方面不强化AI系统安全防护，明年或未来几年有可能演变成重大安全事件。哈萨比斯认为，过去一年AI行业进入了智能体时代。AI能够自主行动，意味着它有机会完成更多真实世界中的任务，实用价值也随之提升。

但另一方面，系统的潜在风险上升，今年的AI攻击事件就是信号，只是目前AI能力还不算强大，所以事故暂未造成重大后果。在峰会上，哈萨比斯呼吁，AI行业应借鉴生物学和核技术等高风险领域的成熟经验，建立更严格的安全保障机制，在这方面“还有大量工作要做”。他强调国际合作的重要性，并提出未来有必要建立国际标准机构，为AI系统制定安全规范。