首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-06
上海均和集团终于暴雷了!这得坑了多少地方城投和政府!记者时时跟进 HTFX外汇:煤炭需求回暖 能源转型面临新挑战后续反转 南方路机8月5日龙虎榜数据最新报道 山金国际发生2笔大宗交易 合计成交8091.00万元这么做真的好么? 天地源董事会提名6位非独立董事候选人 专家已经证实 FXGT:深海采矿监管与可持续发展挑战实垂了 中铁十八局:持续深耕,筑强海外市场“增长极” 为还巨额赌债,公职人员竟让情人扮演“局长”行骗,案情披露 利元亨在线检测设备助推激光焊接质量管理迈向“零容忍”官方通报 为还巨额赌债,公职人员竟让情人扮演“局长”行骗,案情披露又一个里程碑 OEXN:美对巴西原油加征关税影响与应对 西宁特钢8月5日龙虎榜数据太强大了 山金国际发生2笔大宗交易 合计成交8091.00万元实时报道 上海均和集团终于暴雷了!这得坑了多少地方城投和政府!实时报道 富德生命人寿“美好生活2.0”康养品牌发布:从生活方式变革入手,让保障看得见、用得上、靠得住后续反转来了 知名械企,成立「要账」部门 西安银行:股东西安曲江文化解除85.72万股股份质押 明阳30MW级纯氢燃气轮机“木星一号”成功发运实测是真的 知名械企,成立「要账」部门 英集芯:累计回购约11万股最新报道 浙能电力董事长虞国平因年龄辞职 明阳30MW级纯氢燃气轮机“木星一号”成功发运官方通报 摩根大通(JPMorgan)在比亚迪股份的持股比例于7月29日从4.21%升至6.22% 百普赛斯累计回购53万股 金额2561万元 联创光电累计回购171万股 金额9539万元专家已经证实 百普赛斯:累计回购股份数量约为53万股 联创光电:累计回购约11.34万股是真的吗? 联创光电累计回购171万股 金额9539万元 券商CFO盘点:东兴证券财务负责人张芳年薪78万位居倒数第四,相当于行业平均薪酬的6成,本科学历处相对劣势实测是真的 三连跌!OPEC+增产下,美原油跌势还能撑多久? 渣打集团回购56万股 金额753万英镑后续来了 大连热电:8月4日召开董事会会议后续反转 精智达回购57万股 金额4017万元实垂了 大连热电:8月4日召开董事会会议 海象新材:公司尚未实施回购 立新能源:上半年归母净利润895.17万元,同比下降90.17%实测是真的 宝盈基金绩优基金经理杨思亮卸任三只基金,公司总规模止步不前 “连锁火锅第一股”呷哺呷哺再报亏损:预计上半年净亏损约0.8亿元至1亿元实测是真的 电动飞行出租车企业Joby拟收购Blade航空出行公司 华电国际资产重组落地 助力打造国内领先的常规能源旗舰平台太强大了 军信股份:公司尚未开始实施回购 603388,一独董突然辞职!涉嫌严重违法被查!专家已经证实 “沪泰路”强链延链 “医药城”创新创业官方处理结果 “连锁火锅第一股”呷哺呷哺再报亏损:预计上半年净亏损约0.8亿元至1亿元 亿纬锂能赴港突围是真的? 波音下跌1.3% 防务部门员工开始罢工 爱马仕股权迷局:最大个人股东出局,百亿股权离奇失踪|贵圈最新进展 8月4日增减持汇总:暂无增持 胜宏科技等22股减持(表)官方处理结果 经济学家再预警美国处于“衰退边缘”,美政府:已解决发布数据的人这么做真的好么? 特朗普的数字之战:当就业数据挑战总统叙事

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章