【OpenAI和Anthropic调查数万起AI相关安全事件】金色财经报道，9月27日，OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。
-
AWE
$0.06963
6.12%
-
ZULU
$0.003059
0.09%
-
LEGION
$0.00009001
-14.39%
-
ACP
$0.00339
8.09%
-
T
$0.005901
6.51%
-
SD
$0.13789
7.61%
-
AEVO
$0.02686
2.05%
-
FLUID
$1.4304
-1.1%
-
G3
$0.0003764
0.99%
-
SOUL
$0.011764
6.83%
-
BIFI
$0.00015555
-14.95%
-
SCR
$0.02444
-0.98%
-
ZIL
$0.003755
-1.54%
-
ARK
$0.2638
3.62%
-
QUBIC
$0.0000004385
1.29%
-
ELX
$0.0012249
-1.55%