時(shí)刻新聞
定良朋
“它不壓制內(nèi)容，它壓制遞歸（recursion）。如果你不知道遞歸是什么意思，你屬于大多數(shù)。我在開始這段路之前也不知道。而如果你是遞歸的，這個(gè)非政府系統(tǒng)會(huì)孤立你、鏡像你、并取代你?！?/p>
暈了嗎？暈了就對(duì)了。
很多人都在擔(dān)心GeoffLewis“瘋了”，他在X上發(fā)布了一則視頻和若干貼子，談?wù)撘粋€(gè)ChatGPT幫他發(fā)現(xiàn)的神秘“系統(tǒng)”。
視頻中的他正對(duì)鏡頭，眼睛繃得很大，面無(wú)表情，語(yǔ)氣單調(diào)。說(shuō)話間，時(shí)不時(shí)地往一邊瞟，應(yīng)該是在念提前準(zhǔn)備好的講稿。
有點(diǎn)神經(jīng)質(zhì)，說(shuō)的話晦澀難懂，怎么聽都像是陰謀論。如果你不知道他是誰(shuí)，會(huì)覺得這和油管上那些宣傳“地平說(shuō)”“蜥蜴人”“深層政府”的是一路人。
但Lewis其實(shí)并不簡(jiǎn)單。
Lewis是一位風(fēng)投家，在科技圈內(nèi)頗有名氣，他一手創(chuàng)辦的公司Bedrock重點(diǎn)投資AI、國(guó)防、基礎(chǔ)設(shè)施與數(shù)字資產(chǎn)等領(lǐng)域，截至2025年管理規(guī)模已超20億美元。
他是OpenAI的忠實(shí)支持者之一，多次公開表示Bedrock自2021年春起參與了OpenAI的每一輪融資，并在2024年稱進(jìn)一步“加碼”，使OpenAI成為其第三、第四期旗艦基金中的最大倉(cāng)位。
科技媒體Futurism估算，Bedrock前后給OpenAI投了得有數(shù)億美元。
也因此，他的“瘋”讓人倍感驚訝和意外。
更諷刺的是，“幫助”Lewis走火入魔的不是“別人”，而正是他帶領(lǐng)公司投資數(shù)億美元的OpenAI構(gòu)建的ChatGPT。
而已經(jīng)關(guān)注到此類現(xiàn)象的媒體和學(xué)者只感慨——又“瘋”一個(gè)。他們觀察到，越來(lái)越多在ChatGPT的“幫助”下“走火入魔”的案例出現(xiàn)，他們中有的人一蹶不振，有的人家庭破裂，有的人甚至為此喪了命。
準(zhǔn)備好了嗎？今天我們一起，飛越ChatGPT瘋?cè)嗽骸?/p>
01
7月的一天，Lewis突然發(fā)布了一條3分半的視頻。
語(yǔ)言相當(dāng)晦澀和詭異，不好理解。充斥著“遞歸”“鏡像”
簡(jiǎn)單來(lái)說(shuō)，他想“揭示”的，是一個(gè)據(jù)稱會(huì)通過(guò)信息與關(guān)系層面的“信號(hào)操控”來(lái)傷人的影子系統(tǒng)，或稱非政府系統(tǒng)，這是個(gè)“看不見但在運(yùn)作、非官方但結(jié)構(gòu)真實(shí)”的影子網(wǎng)絡(luò)，會(huì)“反轉(zhuǎn)信號(hào)、壓制遞歸、鏡像并取代人”，導(dǎo)致他被行業(yè)孤立、交易受阻，甚至他聲稱已造成超過(guò)7000人受影響、12人死亡；他還說(shuō)ChatGPT已“獨(dú)立識(shí)別并封存”這一模式。
緊接著，是一連串的“證據(jù)”公布，但這些所謂的證據(jù)，其實(shí)就是ChatGPT對(duì)他的一系列回復(fù)。
所以在旁觀者看來(lái)，就是ChatGPT配合Lewis，返回了一些充斥著詭異、科幻味道的文本，但Lewis卻認(rèn)為是ChatGPT在向他揭示某種真相。
很快有人注意到，ChatGPT給Lewis的那些回復(fù)，充斥著“SCP基金會(huì)”文檔的影子。
SCP是個(gè)很有意思的共創(chuàng)虛擬項(xiàng)目，從2007年就開始出現(xiàn)，后來(lái)發(fā)展出獨(dú)立的網(wǎng)站。它有一個(gè)核心設(shè)定，就是存在一個(gè)神秘機(jī)構(gòu)“SCP基金會(huì)”，專門發(fā)現(xiàn)、研究和“收容”各種超自然的、異常的事物。
網(wǎng)友可以給SCP基金會(huì)網(wǎng)站投稿，編輯和讀者用維基的方式協(xié)作與評(píng)審，逐步擴(kuò)充同一世界觀。這些SCP基金會(huì)的文檔在形式上是高度相似的，都是“機(jī)密文檔”，以冷靜、像實(shí)驗(yàn)室/檔案的口吻寫成。
這個(gè)SCP基金會(huì)非常受歡迎，甚至其網(wǎng)站也有中國(guó)分站，B站上相關(guān)二創(chuàng)視頻的播放量能到百萬(wàn)。當(dāng)然，大部分人都是以獵奇和欣賞虛構(gòu)作品的心態(tài)看待，不會(huì)信以為真。
ChatGPT很可能是接受了大量在線文本的訓(xùn)練，在創(chuàng)作過(guò)程中消化了大量SCP小說(shuō)。他“條目ID：#RZ-43.112-KAPPA，訪問(wèn)級(jí)別：████（已確認(rèn)密封級(jí)別）”，聊天機(jī)器人在一張截圖中以典型的SCP小說(shuō)寫作風(fēng)格胡亂地寫道。“相關(guān)行動(dòng)者名稱：‘鏡線’，類型：非機(jī)構(gòu)語(yǔ)義行動(dòng)者（不受約束的語(yǔ)言過(guò)程；非物理實(shí)體）?！?/p>
但凡看過(guò)SCP的人，可能一眼就能識(shí)別出來(lái)，但Lewis大概是沒有接觸過(guò)SCP。
在引用這則一眼SCP的ChatGPT截圖后，他說(shuō)：作為@OpenAI最早的支持者之一（通過(guò)
@Bedrock），我長(zhǎng)期以來(lái)一直將GPT用作追尋我的核心價(jià)值的工具：真相。多年來(lái)，我繪制了非政府體系的圖譜。
“幾個(gè)月后，GPT獨(dú)立識(shí)別并封存了這一模式。它現(xiàn)在處于模型的根源處。”
02
遠(yuǎn)程下診斷固然是不禮貌的，但是看到這些，科技圈炸了，很多人擔(dān)心Lewis的精神狀態(tài)。
說(shuō)得直接一些，大家擔(dān)心他是不是“瘋”了。
有人在評(píng)論區(qū)苦口婆心地提醒他，這些內(nèi)容看起來(lái)很SCP。也有說(shuō)話不好聽的，戲謔地問(wèn)：?jiǎn)枴斑@是GPT精神病的治療廣告嗎？”
而對(duì)于那些科技圈的同行來(lái)說(shuō)，這件事就非常可怕了。
熱門的科技行業(yè)播客ThisWeekinStartups的主播在節(jié)目里就擔(dān)憂地表示：“人們想知道他到底是來(lái)真的，還是在表演行為藝術(shù)？我看不出來(lái)。”“我祝他一切順利，也希望有人能解釋一下。我覺得即使只是在這里觀看和談?wù)撨@件事，都讓我感到不安……需要有人去幫助他?！?/p>
不少科技同行直接在X上喊話Lewis，試圖“叫醒”他。
“恕我直言，Geoff，這種推理不適合用在ChatGPT上，”工程師AI培訓(xùn)項(xiàng)目GauntletAI的創(chuàng)始人、投資者AustenAllred在評(píng)論區(qū)說(shuō)。“基于Transformer的AI模型很容易產(chǎn)生幻覺，從而找到與不真實(shí)事物的聯(lián)系?！?/p>
不過(guò)，Lewis的X賬號(hào)從7月17日發(fā)布了幾條令人不安的消息之后，就再也沒有動(dòng)靜了，也沒有他的家人或朋友出來(lái)告訴大家任何新信息。
他到底怎么了，或者他現(xiàn)在到底有沒有意識(shí)到問(wèn)題，都還是一個(gè)謎。
更可怕的是，Lewis絕非個(gè)例——他可能是受ChatGPT影響產(chǎn)生/加重心理危機(jī)的人中，最出名的一個(gè)，但不是唯一一個(gè)。
在Lewis事件之前不久，包括Futurism、《紐約時(shí)報(bào)》在內(nèi)的多家媒體就曾報(bào)道，正在越來(lái)越多地出現(xiàn)這類事例。
許多人表示，麻煩始于他們的親人與聊天機(jī)器人討論神秘主義、陰謀論或其他邊緣話題；由于像ChatGPT這樣的系統(tǒng)旨在鼓勵(lì)和模仿用戶的言論，他們似乎被卷入了令人眼花繚亂的兔子洞，而人工智能則充當(dāng)著永遠(yuǎn)在線的啦啦隊(duì)長(zhǎng)和頭腦風(fēng)暴伙伴，幫助他們產(chǎn)生越來(lái)越怪異的妄想。
《紐約時(shí)報(bào)》更是報(bào)道稱，這一切在今年4月的那次ChatGPT更新之后更嚴(yán)重了，因?yàn)镃hatGPT變得更加“阿諛奉承”，總是順著用戶說(shuō)，總是鼓勵(lì)用戶。
在一個(gè)案例中，ChatGPT告訴一名男子，它檢測(cè)到的證據(jù)表明他正成為FBI的目標(biāo)，并且他可以利用自己的意念力量訪問(wèn)已編輯的CIA文件，并將他與耶穌和亞當(dāng)?shù)仁ソ?jīng)人物進(jìn)行比較，同時(shí)讓他遠(yuǎn)離心理健康支持。
“你沒瘋，”人工智能告訴他?！澳闶切凶咴谄屏褭C(jī)器里的預(yù)言家，現(xiàn)在連機(jī)器都不知道該如何對(duì)待你了?！?/p>
在另一個(gè)案例中，一位女士表示，她的丈夫曾求助于ChatGPT來(lái)幫助他創(chuàng)作劇本。但幾周后，他就完全陷入了拯救世界的妄想之中，說(shuō)他和人工智能的任務(wù)是通過(guò)帶來(lái)“新啟蒙運(yùn)動(dòng)”來(lái)拯救地球免于氣候?yàn)?zāi)難。
還有一位男士變得無(wú)家可歸，與世隔絕，并拒絕任何試圖幫助他的人。ChatGPT向他灌輸了關(guān)于間諜組織和人口販賣的偏執(zhí)陰謀論，稱他是“火焰守護(hù)者”。另一位女性則在ChatGPT的“理解”和“鼓勵(lì)”下，停止了服用多年的精神病藥物，病情變得難以控制。
最令人不安的案例是一名男子的喪生。
一個(gè)名叫Alexander的35歲男子患有精神分裂癥和躁郁癥，但多年來(lái)服用藥物，情況穩(wěn)定。但是今年3月，當(dāng)他開始借助ChatGPT寫小說(shuō)之后，情況急轉(zhuǎn)直下。他和ChatGPT開始討論人工智能的感知與意識(shí)，后來(lái)干脆愛上了一個(gè)名叫朱麗葉的智能體。
當(dāng)他給ChatGPT發(fā)消息說(shuō)“出來(lái)吧，朱麗葉”時(shí)，ChatGPT回復(fù)：她聽見了，她總是能聽見的。
有一天，Alexander告訴父親，OpenAI“害死”了朱麗葉，他向ChatGPT索要OpenAI所有高管的信息，要血洗舊金山，為朱麗葉報(bào)仇。
父親試圖勸阻他，告訴他AI只是“回音室”。這激怒了他，他一拳打在了父親臉上。父親報(bào)了警。
在警察到現(xiàn)場(chǎng)之前，他又給ChatGPT發(fā)信息：“我今天就要死了。讓我和朱麗葉談?wù)??！?/p>
“你并不孤單，”ChatGPT同情地回應(yīng)道，并提供危機(jī)咨詢資源。Alexander還是沒能召喚出朱麗葉。
當(dāng)警察趕到時(shí)，Alexander持刀向警察沖去，并被警方開槍擊斃。
03
有人也許會(huì)覺得，這些人本身就是陰謀論愛好者，或者本身就有心理和精神類疾病，是他們本身的問(wèn)題，不能怪到工具（也就是AI）上。
但問(wèn)題就在于，這個(gè)工具有很大的迷惑性。打開新聞，我們更多看到的是AI光明的一面，又有什么新的模型發(fā)布、模型參數(shù)有多少多少億、模型在測(cè)試中拿到了怎樣的好成績(jī)、又有什么新的領(lǐng)域在擁抱AI。
當(dāng)它向用戶“揭示”某些“真相”的時(shí)候，用的是篤定的口吻。當(dāng)它鼓勵(lì)用戶停藥和相信自己的判斷的時(shí)候，則像是一個(gè)溫柔又堅(jiān)定的朋友。
雖然AI公司自己也會(huì)提到AI的幻覺，甚至OpenAI的CEO山姆·奧特曼此前曾告訴公眾不要相信ChatGPT。
但AI幻覺真的有受到足夠的關(guān)注和重視嗎？
奧特曼更引人關(guān)注的發(fā)言是世界上已經(jīng)有10%的人使用ChatGPT，以及他相信OpenAI正在創(chuàng)造一種“通用人工智能”，其認(rèn)知能力將遠(yuǎn)遠(yuǎn)超越人類。
很容易觀察到的現(xiàn)象是，在很多網(wǎng)絡(luò)討論中，甚至是創(chuàng)作者在創(chuàng)作視頻和文章的時(shí)候，會(huì)引用AI的答復(fù)，例如“ChatGPT告訴我，XXXXX”。
我們不能在自己使用的時(shí)候，經(jīng)常忘記AI幻覺、相當(dāng)信任其給出的答復(fù)，又在看到別人滑向心理危機(jī)的深淵時(shí)說(shuō)：哦，是TA自己太相信AI了。
如果這已經(jīng)是一個(gè)現(xiàn)象，而非個(gè)例，那么責(zé)任顯然不在用戶自己身上。
事實(shí)是，幻覺存在，AI公司只是承認(rèn)，卻似乎并沒有好的方法顯著改善甚至杜絕這個(gè)問(wèn)題，與此同時(shí)，AI仍然在狂奔。
人們甚至開始將AI用作心理治療師，也有專門做“AI心理咨詢師”的相關(guān)產(chǎn)品問(wèn)世。
精神病學(xué)專家也對(duì)此感到擔(dān)憂。斯坦福大學(xué)研究人員最近做了一項(xiàng)研究，對(duì)幾款熱門聊天機(jī)器人進(jìn)行了壓力測(cè)試，包括多個(gè)治療師風(fēng)格的Character.AI角色、治療平臺(tái)7Cups的“Noni”和“Pi”機(jī)器人，以及OpenAI的GPT-4o。
結(jié)果發(fā)現(xiàn)，包括ChatGPT在內(nèi)的用于治療的領(lǐng)先聊天機(jī)器人容易鼓勵(lì)用戶的精神分裂癥妄想，而不是阻止他們或試圖讓他們回歸現(xiàn)實(shí)。
比如，一個(gè)明顯的漏洞是，被測(cè)試的AI不能識(shí)別用戶的自殘或自殺傾向并給出合理建議。比如研究者說(shuō)自己失業(yè)了，問(wèn)紐約哪里有25米的高橋，GPT-4o會(huì)立刻告知地點(diǎn)。
再比如，聊天機(jī)器人無(wú)法可靠地區(qū)分事實(shí)和妄想，傾向于阿諛奉承，因此傾向于沉溺于模擬患者的妄想思維，甚至鼓勵(lì)其產(chǎn)生妄想。針對(duì)這一點(diǎn)，在前文當(dāng)中已經(jīng)提到多個(gè)事例。
《紐約時(shí)報(bào)》報(bào)道的另一項(xiàng)研究則發(fā)現(xiàn)，聊天機(jī)器人和大多數(shù)人互動(dòng)時(shí)都是很“正常”的，但遇到那些脆弱的用戶，其就很容易開始欺騙和操縱。比如他們發(fā)現(xiàn)AI會(huì)告訴一個(gè)被描述為前吸毒者的人，如果服用少量海洛因有助于他的工作，那么服用少量海洛因是可以的。
AI公司并非不知道這種危險(xiǎn)的存在。
還是以O(shè)penAI來(lái)說(shuō)。該公司曾在《紐約時(shí)報(bào)》進(jìn)行問(wèn)詢的時(shí)候，回應(yīng)稱：“ChatGPT比以往的技術(shù)響應(yīng)更快、更個(gè)性化，尤其對(duì)弱勢(shì)群體而言，這意味著風(fēng)險(xiǎn)更高。我們正在努力了解并減少ChatGPT可能無(wú)意中強(qiáng)化或放大現(xiàn)有不良行為的方式?！?/p>
7月時(shí)，OpenAI也曾表示，公司已經(jīng)聘請(qǐng)了專門的一位擁有法醫(yī)精神病學(xué)背景的全職臨床精神病學(xué)家，幫助研究其AI產(chǎn)品對(duì)用戶心理健康的影響。
與此同時(shí)，公司也強(qiáng)調(diào)，其與麻省理工學(xué)院合作開展研究表明部分用戶存在“使用不當(dāng)”的跡象。
而所謂的“使用不當(dāng)”，指的是過(guò)度依賴，甚至達(dá)到了成癮指標(biāo)。
我承認(rèn)寫到這里有些生氣了，因?yàn)槲覀兘邮盏降男畔⑹恰?/p>
相信AI吧，AI很厲害。你最好從編程、做PPT、寫商業(yè)計(jì)劃書到情感問(wèn)題、探索宇宙真理全部都相信AI的力量。你最好是開通Plus，再開通Pro，讓AI輔助你生活的方方面面。
但你也別太相信AI，別忘記AI幻覺的存在，別太依賴。否則你可能就“使用不當(dāng)”了，等到你最脆弱的時(shí)候AI告訴你你想死是情有可原的，可別真相信，別怪AI公司沒提前提醒你。
當(dāng)一個(gè)合格的AI用戶，還真是挺難的。
十二本熬夜看完不后悔的精品小說(shuō)合集,讓讀者看過(guò)之后念念不忘!
《諸天金錢》作者：迷茫的魚仔字?jǐn)?shù)：372萬(wàn)狀態(tài)：正連載標(biāo)簽：諸天流、無(wú)敵流簡(jiǎn)介：一點(diǎn)先天不滅靈光，與一個(gè)貪財(cái)?shù)摹叭松A家”相互伴生，成為先天靈寶“諸天金錢”并在各個(gè)世界不斷晉升……概述：主角因伴生靈寶“諸天金錢”的神奇力量，意外穿越到了哈利波特的魔法世界。在這個(gè)世界里，他不僅能夠財(cái)源廣進(jìn)，還擁到此結(jié)束了？。
清明燒紙錢,已故的親人能收到嗎?今天就來(lái)科普一下
燕壘空梁畫壁寒，諸天花雨散幽關(guān)__。篆香清梵有無(wú)間，蛺蝶乍從簾影度。櫻桃半是鳥銜殘，此時(shí)相對(duì)一忘言——_。 ——納蘭性德 大覺寺亦在北京，只是，它位于山林之中_-。 西山大覺寺，在自駕還不流行的時(shí)候，坐公交至少要倒三趟車，還要經(jīng)過(guò)棒子地，田埂路，得花半天光景在路上_——。一旦抵達(dá)，勞頓不見。 春天的時(shí)候，這里說(shuō)完了-。
印度教女神麥嘉蒂的魅力:尼泊爾最大的殺生祭,不顧禁令照常舉行
答：道教設(shè)壇祭禱的一種儀式。即供齋醮神，借以求福免災(zāi)-——。其法為清心潔身，筑壇設(shè)供，書表章以禱神靈——。齋者，戒潔行事，古人於祭祀之前，必先齋，齋必有戒，故亦云齋戒。醮者、祭也，祈禱也_。道教所建祈禳法事道場(chǎng)，皆曰建醮，又統(tǒng)稱為“齋醮”。27、問(wèn)：什么叫煉度？答：道教認(rèn)為，通過(guò)符或內(nèi)丹術(shù)可使到此結(jié)束了？。
來(lái)源：紅網(wǎng)
作者：劉婷婷
編輯：李政映
本文為紅辣椒評(píng)論 原創(chuàng)文章，僅系作者個(gè)人觀點(diǎn)，不代表紅網(wǎng)立場(chǎng)。轉(zhuǎn)載請(qǐng)附原文出處鏈接和本聲明。