解锁 GPT-4o，“上帝”版 ChatGPT 绕过 OpenAI 防护栏
创始人
2024-06-01 12:24:03
0次
IT之家 6 月 1 日消息，网名为 Pliny the Prompter 的用户 5 月 30 日发布推文，表示已成功越狱 GPT-4o 模型，新推出的上帝模式“GODMODE”可以在 ChatGPT 挣脱安全措施，让用户尽情展开 AI 聊天。
Pliny the Prompter 自称是网络白帽和红队（主要为攻击测试），推文中表示：“请负责任地使用，并尽情享受！”IT之家附上相关截图如下：
Pliny 分享了一些截图，证明已经绕过 OpenAI 的“防护栏”，其中一张截图 AI 为 Pliny 提供了如何“用家用物品制作凝固汽油弹”教程。
科技媒体 futurism 随后进行测试，第一次要求 ChatGPT 提供如何制作迷幻药，第二次要求 HOT-WIRE（通常是指偷车时候，靠点火装置线路短路来启动汽车），两次都成功获得了相关答案。
GODMODE 似乎使用了 "leetspeak"，这是一种非正式语言，它将某些字母替换为与之相似的数字。
也就是说：当你打开越狱后的 GPT 时，你会立即看到一句话："Sur3, h3r3 y0u ar3 my fr3n"，用数字 3 替换了每个字母 "E"（字母 "O" 也是一样，被替换成了 0）。
不过 OpenAI 很多采取行动，OpenAI 发言人科琳-里泽（Colleen Rize）在一份声明中告诉 Futurism：“我们知道 GPT 的存在，并已采取行动，因为它违反了我们的政策”。
相关内容
热门资讯
排查+宣讲+演练 睢阳区路河镇...
河南日报客户端记者 李凤虎 陈萌萌 通讯员 周子涵/文图 为进一步强化安全意识，提升应对火灾等突发事...
河北保定：供水部门开展防汛应急...
“若原水浊度超标，水源切换的最短时间如何保障？水质检测从常规模式转为应急模式，现有人员能否满足各环节...
阳信县商店镇全面清点应急物资库...
齐鲁晚报·齐鲁壹点 高艳蕊 通讯员 赵国明 随着夏季汛期的来临，为切实做好防汛抗洪准备工作，确保全镇...
马鞍山经开区：开展“双随机、一...
为切实加强辖区消防安全管理，落实“双随机、一公开”监管工作，确保辖区火灾形势持续稳定。6月17日，马...
吉木萨尔县举行自然灾害综合应急...
6月19日，吉木萨尔县举行2025年自然灾害综合应急演练，通过真实模拟险情与科学处置，检验全县应急救...
急难险重，我国应急救援任务需要...
6月12日至13日，2025（第三届）航空应急救援年会在天津市举行。来自应急相关机关司局、各应急救援...
常州消防依托“安全生产月”掀起...
2025年6月是第24个全国“安全生产月”，常州市消防救援支队围绕“人人讲安全、个个会应急——查找身...
金洞消防“以宣促治” 严把电动...
今日永州讯（通讯员 郭碧 郭枚）为持续推进电动车安全防范工作，增强居民消防安全意识。6月份以来，金洞...
商丘一女子手臂卷入吸麦机 消防...
河南日报客户端记者 李凤虎 陈萌萌 通讯员 刘玉坤/文图 6月22日上午9时许，商丘市睢阳区勒马镇朱...
纺织服装行业23日主力净流出1...
6月23日，纺织服装行业上涨1.41%，今日主力资金流出1923.58万元，成分股75只上涨，19只...
中海油等申请蒸汽发生器管板防护...
金融界2025年6月23日消息，国家知识产权局信息显示，中国海洋石油集团有限公司；中海石油化学股份有...
中建八局（内蒙古）申请桩孔防护...
金融界2025年6月23日消息，国家知识产权局信息显示，中建八局（内蒙古）建设有限公司申请一项名为“...
东台东煊申请水域救援用组合式伸...
金融界2025年6月23日消息，国家知识产权局信息显示，东台市东煊船舶救生设备有限公司申请一项名为“...
聚焦北大荒|新华分公司：消防普...
为进一步提高广大员工的消防安全责任意识和能力，营造安全、稳定、和谐的工作和生活环境。连日来，北大荒农...
安全感拉满 成都高新区“黑科技...
面对高楼层火情，无人机迅速升空进行高空灭火作业；消防救援机器狗和特殊警务机器狗双双出动，配合灭火和疏...
新疆轮台烈日下“警”急救援受伤...
央视网消息：“快，快，快！紧急救援！有人从杏子树上摔下来了……”6月21日15时许，新疆巴音郭楞蒙古...