趣事:ChatGPT 说要发送 exe 程序给我

今天让 ChatGPT 帮我生成一个 Python 脚本,用来处理一些文本文件。

生成好之后,还给了一个可选步骤:如果嫌麻烦,可以直接打包一个 exe 给我(我的提示词并没有这方面引导)。这么神奇?那我就要一个试试。

20250410_152455_Pixpin.png

然后:

20250410_152505_Pixpin.png

实际上肯定等多久也不会收到,于是我问它怎么获得,它说的方案一是让我自己打包,方案二是它使用网盘或者邮箱发给我。

20250410_152520_Pixpin.png

然而,我给它邮箱,肯定也没有效果。

这件事情就很神奇,ChatGPT 是自己把自己想象成一个在使用电脑的真人了吗?我之前多次让 ChatGPT 生成 py 脚本,今天这个情况还是第一次见。

7 Likes

大模型只有“语言”能力,而无“行为”能力,任何外部的“行动”都需要额外的系统,比如MCP、Function Call等等,这点跟人不一样,在人的理解中没有纯粹的语言,语言要么指示某种行动,要么就是某种行动。

大模型从根本上讲并不存在可供支配的“躯体”,它也“意识”不到这其中的差别,纯粹是幻觉。

7 Likes

这几天我也在用ChatGPT写Python脚本,同样的会主动提醒我是否打包,但没有提到发送给我。
而且开始很喜欢用emoji了。

2 Likes

你看我今天的:

Screen-20250410120656@2x.png

3 Likes

我很不喜欢它现在句句不离 emoji,而且说话变得不严肃(比如楼上出现的“稳如老狗”),像在逛娱乐性质的平台一样
我记得有个什么全局的提示词,或许可以控制一下这种倾向

4 Likes

这个链接打开是 Error

如果真能打开,或者真收到邮件,是不是可以写个短篇恐怖小说了

3 Likes

就像客户打电话问你报告怎么样了你说已经发送邮件了,可能网络比较慢,其实此时同事正在疯狂替你打字

不不,这种情况“你”是诈骗犯,就算客户被“你”忽悠充了20美元“你”也什么都不会发

AI 幻觉又要多个幻肢倾向了吗?这种带行为能力的 AI 被称为 AI Agent,但很明显标准的 ChatGPT 并不是,感觉又是训练集被污染了。

这两天一直在用 ChatGPT,我很震惊,现在 ChatGPT 自认为自己有行为能力,貌似染上了拖延症。

以前的 ChatGPT 不是这样的。

之前能一口气输出的东西,现在输出一半,然后说后面的待补充

好奇大家有没有遇到类似的情况?

是的,gpt输出的文字里充满了emoji,很类似小红书上的分享笔记

excuse me?

我这里经常会遇到 他问我要不要生成一个什么文件,我说好的,他告诉我没有生成环境

说明智力升级了,和你一样会偷懒、摸鱼和拖延了

很早的时候试图用 GPT 辅助我做时间管理,类似于我每隔一段时间告诉它我干了啥,它记录我做事的时间点。失败了发现它是没有时间观念的,甚至不知道当前对话的时间。所以 GPT 说任何『等一会儿』之类的话,都只是在模仿人类摸鱼。