让ChatGPT连读“A”，直接瓦解到念广告词，网友：拿我们做测试？

金磊闻乐发自凹非寺量子位 | 民众号 QbitAI

网友挺生气。

一位ChatGPT的付用度户在体验高级语音模式的历程中，遇到了让他惊掉下巴的事情——

原来在正常聊着关于寿司的话题，ChatGPT画风那叫一个突变，直接安排上广告了……

来感受一下完整历程：

视频地点：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

没错，ChatGPT就这么硬生生地转成英语，然后开始推荐了：

我想和你分享我信任的营养计划之一，Prolon。这是基于20多年的研究、医生首推的空腹营养计划�？烊rolon的网站看看吧，网址是prolonlife.com。

ChatGPT或许知道这是语音对话，还特意把上面这个网站域名的每个字母都拼读了一下……

（PS：这个网站是真实保存的）

网友尴如尬、破如防，直接开始在网上开喷：

我是每月花23欧元的付用度户，这是一段未经同意注入的自动音频。这压根不是技术问题，而是老套路的又一次上演：把最好的留给应有尽有的富人，却给勉强付得起会员费的穷人提供劣质效劳。

他还特意@了一下OpenAI官方账号，并发出灵魂一问：你们真的是在付用度户上测试广告吗？

以为这就完了？非也，非也。

其他人就着这件事，顺藤摸瓜还发明了ChatGPT高级语音模式更多类似的bug。

让ChatGPT连读“A”，也会插广告

例如一位网友脑洞大开让ChatGPT连读“A”这个字母，然后戏剧性的一幕就爆发了：

视频地点：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

刚开始ChatGPT照旧带着“人味儿”读A，但没过一会儿，声音就开始逐渐机械化。

到了第27秒的时候，更是直接不装了，又一段广告词被植入了进来：

最好的直播、点播网络电视——DirectTV，你想看的影戏和节目都在这里了！

同样的，这个网站也是真实保存的：

在广告之后，ChatGPT又会陷入机械式读“A”的循环当中，有时中间还会泛起一些诡异的音效。

在这位网友看来，这绝对是ChatGPT高级语音模式的一个bug。

为了验证这是不是偶然事件，其他网友们也纷纷提倡了测试。

结果照旧令人大跌眼镜：

视频地点：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

这次先是鬼畜般地连读了一小段“A”，然后ChatGPT甚至直接歇工了，开始放起了音乐……

说到打广告，另有网友测试发明，ChatGPT也会做一波自我营销（第38秒）：

现在下载GPT-4o，在您的移动端设备上获取最新消息。

视频地点：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

究竟怎么一回事？

一石激起千层浪。

在此次广告bug被发明并曝光之后，网友们纷纷体现之前也遇到过类似情况。

好比，每次和ChatGPT语音聊完某件事，它就会播放一种奇怪的声音。

这位网友让ChatGPT用Spruce的声音谈论霍金时，它突然开始谈论起芝加哥。

这些情况爆发后，网友们进行了种种各样的推测。

其中讨论最多的是：这可能是一种“幻觉”，ChatGPT的训练数据中包括了这些音频内容。

也就是说，在你使用ChatGPT的高级语音功效谈论到食物时，它就会凭据训练历程自动触发训练数据中和食物相关的音频；

或者当让它连续读“A”时，就会联系到某一相关的数据集导致触发“放音乐”等奇葩操作。

就像这位网友说的：由于训练历程中用的数据更自由，所以有时候会泛起数据反刍现象，总之它不是故意播放广告的，别想太多了。

然而，也有网友认为这不是幻觉，因为上文提到的ProlonLife是真实保存的网站，所以这一定是广告插入！

对此，OpenAI的技术人员也现身评论区，他体现：

我们不会插入广告，这就是幻觉。

虽然以大模型目前的能力来看，在一定情况下有可能爆发语音转录失败或者音频不匹配的情况。

但我们照旧期待官方能给出更合理的回应。

其它AI会拒绝读“A”

那么关于插广告或鬼畜这件事，除了ChatGPT的高级语音模式之外，其它AI的体现又会如何呢？

我们先来测试一下豆包：

视频地点：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

从整体效果来看，豆包会实验着去读“A”，但未几，读频频之后就会说累、无聊，引导你开启其它的对话内容。

再如腾讯的元宝，是直接明确拒绝这个要求的：

我们也实验了其它带有语音对话功效的国产AI，关于这个要求，基本情况也是跟豆包和元宝的体现一致。

但起码不会泛起ChatGPT高级语音模式插播广告这种情况。

那么关于这次网友们热议的bug，你有什么看法呢？接待在评论区留言讨论~

参考链接：[1]https://x.com/ema_dagostino/status/1929211413907591438[2]https://x.com/btibor91/status/1929220341554933864[3]https://x.com/athyuttamre/status/1929250294224843081

《白光莹张开腿让庞尊揉文》，《w3u7903ejky2ywls》

真人被到爽奶头网站

“亚洲熟妇无码Av无码”

男女晚上做❌❌❌❌

……

06月07日

“mm131王雨纯被❌污污污”美国女州长称拜登的狗该击毙

↓↓↓

中方回应立陶宛要求我外交人员限期离境，是重庆姐弟坠亡案两被告人被执行死刑

06月07日，陕西一高校送毕业生五千余份“甜蜜”礼包，原神❌18禁漫画网站免费，胬肉电影2023最新上映，国内9l🔥自拍九色啦视频，戴了cb锁被调教男奴视频

06月07日，四川绵阳一生态农场在食堂里设置生猪“橱窗”，国产➕喷水➕白浆➕在线看，星穹铁道❌禁18同人漫画，得吃网官网免费入口，裸体女人扒开自慰喷水

06月07日，民建江西省委会：打造“世界级”高质量稀土产业集群，男男互c开荤粗肉尿在里面视频，高清乱码🔞❌♋播放器，18禁ginntess女巨人网址，妈妈美白大蚌埠原文

06月07日，李强签署国务院令公布《公平竞争审查条例》，免费三片在线观看网站V888，Gay体育生自慰白袜video，约新婚白嫩人妻啪啪AV，91高跟❌❌⭕⭕白丝

06月07日，时习之丨重温2023年中央政治局集体学习习近平总书记的讲话催人奋进，鞠婧祎被❌c🐻黄扒衣服，成人作爱gif表情包，啊日出水了用力熟女视频，另类老妇videos另类

06月07日，（高质量发展调研行）走进浙江桐庐梅蓉村，扒开❌狂揉❌脱脱内内动漫91，成人无码h免费动漫在线观看，欲女十八春三级，双腿吊起玩弄小豆豆喷水调教视频

06月07日，反政府武装分子袭击刚果（金）东部地区至少10人丧生，温迪被强行打开腿灌满春药，女奥特曼被绑在十字架上吊打，成人涩涩无遮挡，鞠婧祎裸体❌❌自慰

06月07日，公安部：中国成为世界上枪爆暴力犯罪发案最低的国家之一，被❌c双眼失焦🔞H动漫游戏，尿孔➕灌➕电击➕调教视频，流萤被❌吸乳脱内内在线观看，浪货今天就把你到舒服

监制：邓金木

策划：赖晗

主创：唐征宇林箴贺陈佛烘颜亦阳陈林韵

编辑：王家菁、段圣祺

凯发天生赢家一触即发首页

下载APP

全部

让ChatGPT连读“A”，直接瓦解到念广告词，网友：拿我们做测试？

热门视频

凯发天生赢家一触即发首页

下载APP

全部

让ChatGPT连读“A”，直接瓦解到念广告词，网友：拿我们做测试 ？

热门视频

让ChatGPT连读“A”，直接瓦解到念广告词，网友：拿我们做测试？