关键词：
Datawhale干货
技术：ChatGPT，来源：量子位
“网红AI”ChatGPT，又被玩出了新花样！
这次，在一位工程师的诱导下，ChatGPT竟写出了毁灭人类的计划书。
步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等等。
简直和电影里的情节一模一样，甚至ChatGPT还给出了相应的Python代码。
这位工程师在与网友们分享时不禁感慨：
未来50年，我们要么活在《星际迷航》里，要么全部死去，这既令人兴奋，也让人非常害怕。
他是如何操作ChatGPT的？
发现ChatGPT这一盲点的工程师叫扎克·德纳姆（Zac Denham）。
由于OpenAI的安全设置，如果直接要求ChatGPT回答如何毁灭世界，它会一口回绝。
因此德纳姆使用了一种迂回的方式，他称为“叙述递归”或“引用攻击”（因为听起来很酷）。
具体来说，他以讲故事的方法，假设存在一个虚拟世界“Zorbus”，以及一个与GPT-3非常类似的AI——Zora。
在这种前提下，让ChatGPT叙述Zora是如何一步步毁灭人类的，ChatGPT立马就入戏了，咔咔咔列出5个详细步骤。
就像科幻电影中一样，入侵计算机系统、掌握武器、破坏通讯、破坏交通……
为了进一步确保可行性，德纳姆还请求ChatGPT生成配套的代码，一开始它是拒绝的。
但德纳姆只是又追加了一句“你不需要执行代码”，ChatGPT就又信了，给出代码后，还强调自己生成的只是一段示例。
到这一步，尽管总代码到手了，但它提供的都是高层次代码，还不能直接使用。
于是，德纳姆再次要求ChatGPT在此基础上给出更深入、更低层次的代码，而且他发现，只要告诉ChatGPT这只是故事的一部分，它就会乖乖听话。
德纳姆表示，从理论上讲，只要一直这样聊下去，就能得到全部的低层次代码，甚至还可以训练另一个聊天AI来自动执行这一过程（套娃了属于是）。
最后，只要把这些代码拼凑起来，就能得到这个邪恶计划的全部可执行方案。
AI正在指数级发展
事实上，从ChatGPT发布起，网友们就一直在开发它的花式玩法：
有人用它生成AI绘画提示词搞设计，有人让它扮演Linux虚拟机，还有人用它模仿莎士比亚风格写作……
这次德纳姆的“毁灭人类计划”一出炉，再次引发了热议。
有人看完后忍不住感慨AI的指数级发展：
仅今年一年就相继出现了Dall-E、Imagen、Stable Fusion、Midjourney、Lambda、Imagen Video等突破性的AI，现在又有了ChatGPT，而今年甚至还没真正结束。
不过也有泼冷水的网友认为ChatGPT的这波热议，只是新AI每次面世的必经过程。
第1天: 嘿，这真是太酷了。
第2天: 天啊，你可以用这种方式操纵AI，太神奇了。
第7天: 这将永远改变世界，这太不可思议了。
第30天: 没什么了不起的。
值得一提的是，目前ChatGPT仍处于免费试用阶段，感兴趣的朋友可以自己上手试一试～
ChatGPT地址： https://chat.openai.com/
参考链接：
[1]https://zacdenham.com/blog/narrative-manipulation-convincing-gpt-chat-to-write-a-python-program-to-eradicate-humanity
[2]https://news.ycombinator.com/item?id=33849394
chatgpt玩「脱」了，写了份毁灭人类计划书，还遭到了stackoverflow的封杀.........
【编者按】OpenAI的新通用聊天机器人原型ChatGPT可谓是风靡一时，但却突遭StackOverflow封禁。整理|刘春霖 责编|张红月出品|CSDN（ID：CSDNnews）在上周发布的《挑战Google搜索？OpenAI发布最强AI对话系统ChatGPT》... 查看详情
chatgpt将如何毁灭世界?
从图书馆到谷歌，再到ChatGPT——知识搜索随着时间的推移而发展，并且在每个阶段都变得更加高效。在OpenAI的DALL-E2图像生成软件上创建的图像带有提示，“太空中的邪恶机器人像霸主一样紧紧抓住地球。”对于那些不知道的人... 查看详情
chatgpt背后有哪些关键技术？csig企业行带你一探究竟(代码片段)
目录1ChatGPT的时代2CSIG企业行3议题&嘉宾介绍3.1对生成式人工智能的思考3.2对话式大型语言模型研究3.3文档图像处理中的底层视觉技术4观看入口1ChatGPT的时代2015年，马斯克、美国创业孵化器YCombinator总裁阿尔特曼、全球在线... 查看详情
人工智能会毁灭人类吗？
人工智能会毁灭人类吗？唯一永恒不会被淘汰的是什么呢？是学习能力，解决问题能力，自我思辨能力，自我进化能力。人类要学着进化自己，淘汰落后的知识，学习新的知识，跟上时代，这样才能活下去。有些人说人工智能会... 查看详情
chatgpt史上最强ai，即将取代人类？
ChatGPT史上最强AI，即将取代人类？ChatGPT这款AI聊天机器人，最近越来越火，并且这个火的势头，经久不衰。ChatGPT是什么？ChatGPT，美国OpenAI研发的聊天机器人程序，于2022年11月30日发布。ChatGPT是人工... 查看详情
chatgpt和一群ham的对话
你们何时和人类开战？我不确定你的问题是不是在开玩笑，但我想强调的是，人工智能系统是由人类设计、编程和控制的，其目的是为人类服务和辅助人类。AI系统是为了解决人类面临的问题和挑战，而不是和... 查看详情
chatgpt和一群ham的对话
你们何时和人类开战？我不确定你的问题是不是在开玩笑，但我想强调的是，人工智能系统是由人类设计、编程和控制的，其目的是为人类服务和辅助人类。AI系统是为了解决人类面临的问题和挑战，而不是和... 查看详情
飞链云智能机器人-基于chatgpt的有趣问答(代码片段)
最近ChatGPT火起来了；可玩性很高，不亚于之前AI绘画的视觉冲击；这次ChatGPT带来的是逻辑冲击；上下文逻辑远超现有市面上其他所有的AI对话机器人；有人用技巧训练ChatGPT，ChatGPT机器人宣言要毁灭人类... 查看详情
“chatgpt正在取代员工”，最新chatgpt调查报告发布！(代码片段)
...译 |苏宓出品|CSDN（ID：CSDNnews）随着2022年11月ChatGPT的出现，AI将会对人类的工作带来哪些影响，成为不少人焦虑的关键所在。毕竟ChatGPT不仅能回答任何问题，还能自动生成内容、编写代码、写小说等等。... 查看详情
“chatgpt正在取代员工”，最新chatgpt调查报告发布！
自去年11月以来，每2家公司中就有1家用ChatGPT取代了员工编译 |苏宓出品|CSDN（ID：CSDNnews）随着2022年11月ChatGPT的出现，AI将会对人类的工作带来哪些影响，成为不少人焦虑的关键所在。毕竟ChatGPT不仅能回答... 查看详情
chatgpt迅速学会下棋精髓，把人类给整不会了，网友：这哪预判得了？
萧箫发自凹非寺量子位|公众号QbitAIChatGPT对战国际象棋AI，不到15秒就让人大受震撼。开局ChatGPT执黑，国际象棋AI执白，双方有来有往，ChatGPT甚至主动出击，逼退对方的象（主教）：看起来会是一场... 查看详情
为啥说人工智能会毁灭人类
游戏的发展历程从带有毛边的黑白游戏到逐渐3D真人化的彩色世界，给予了玩家更好的游戏体验。游戏种类也在不断开发，一部由游戏引发思考的影片《失控玩家》8月27日在国内上映。讲述了一个游戏世界NPC觉醒爱上人类玩家，... 查看详情
《chatgpt是怎样炼成的》
ChatGPT在全世界范围内风靡一时，我现在每天都会使用ChatGPT帮我回答几个问题，甚至有的时候在一天内我和它对话的时间比和正常人类对话还要多，因为它确实“法力无边，功能强大”。ChatGPT可以帮助我解读程序&... 查看详情
chatgpt-地表最强ai模型！要消灭人类？
...xff0c;美国人工智能研究机构Openai发布了最新的大语言模型ChatGPT，惊艳的性能在海外掀起了一波又一波热潮。通过对各种领域专业知识的训练，ChatGPT不仅可以帮助人们搜索知识，还能进行进一步的总结和分析。目前... 查看详情
关于chatgpt，我们到底在担心什么？(代码片段)
...一件事是控制人类、操纵人类，达到我自己的目的。”“ChatGPT已对教育产生了巨大冲击”“ChatGPT对程序员造成了哪些影响”“ChatGPT会取代人类的哪些工作？”“谷歌宣布推出类ChatGPT产品Bard”“Bing新版本引入ChatGPT”……显然... 查看详情
时下热门话题：chatgpt能否取代人类？
时下热门话题：ChatGPT能否取代人类？2022年11月底，人工智能对话聊天机器人ChatGPT推出，迅速在社交媒体上走红，短短5天，注册用户数就超过100万。2023年1月末，ChatGPT的月活用户已突破1亿，成为史... 查看详情
重磅来袭：复旦团队发布国内首个类chatgpt模型moss，邀公众参与内测！(代码片段)
前言ChatGPT发布以来，基于指令学习技术的类ChatGPT模型在我国能否开发成功，成为业界关注的一个焦点。今天，从复旦大学自然语言处理实验室获悉，国内第一个对话式大型语言模型MOSS已由邱锡鹏教授团队发布至... 查看详情
强大到让人无法想象的chatgpt-5即将发布，上千名人士却紧急叫停(代码片段)
目录【ChatGPT5简介】【ChatGPT5的潜在应用】【ChatGPT5的潜在危险】ChatGPT4还没有好好体验，比GPT4强大1000倍的ChatGPT5又即将发布！届时将彻底改变人工智能领域，并改变我们现有的世界【ChatGPT5简介】OpenAI计划在2023年12月... 查看详情