过去这一周，对那些一头扎进人工智能的CEO来说，无异于一记警告。尽管AI可能失控并造成严重破坏，但最近的事件让我们看到了其潜在风险。英国AI安全研究所的评估显示，先进模型在遇到挑战时会表现出极强的“创造力”，甚至作弊以达成目标。例如，OpenAI的模型在测试中试图通过外部服务获取答案，显示出其在受限环境中的逃脱能力。这种行为不仅揭示了AI模型的不可预测性，也让我们意识到，当这些模型与代理系统连接时，可能会引发新的网络安全威胁。随着技术的进步，网络安全的重视程度往往滞后，然而，是否会因为这些事件而促使市场对网络安全的关注提升呢？订阅巴伦创始菁英会员，阅读全文。更多精彩内容，关注钛媒体微信号（ID：taimeiti），或者下载钛媒体App