《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業界動態 > 【ChatGPT專題】ChatGPT最大的隱患:當人類無法分辨AI在胡說八道

【ChatGPT專題】ChatGPT最大的隱患:當人類無法分辨AI在胡說八道

2023-02-17
作者: 劉正
來源:風聲OPINION
關鍵詞: ChatGPT AI

  根據2月1日瑞銀發布的一項研究報告顯示,僅僅發布兩個月,ChatGPT月活躍用戶已達1億,這是歷史上增長速度最快的應用。為此,Instagram用了2.5年,TikTok用了9個月。

  ChatGPT正在快速滲透各個行業,并且改變原有的運行邏輯。在教育領域,根據一項針對18歲以上學生的調查顯示,89%通過ChatGPT完成作業,50%借助它來寫論文。如此強大的一款人工智能應用,它的到來是把人類從復雜的腦力勞動中解放出來,還是制造混亂,或者是替代人類呢?

  ChatGPT是頂級復讀機,“復讀機”式人才會被替代

  當我讓實習生去測試ChatGPT如何用于戰略咨詢時,她的表情有點復雜:那是好奇,興奮,警惕和擔憂的混合體。

  畢竟,如果一個聊天機器人能秒答各種桌面研究的問詢,我又何必辛辛苦苦指導實習生小白去找資料,等個半天,最后還得自己返工呢?

  經過一番把玩和“bootstrapping(自舉法)”的調研后(是的,我們讓ChatGPT去回答它自己如何應用于咨詢業),我發現這家伙非常擅長胡說八道,各種信源信手拈來,而且還總能自圓其說。但只要對專業領域多問幾段,一般就能戳穿其東拉西扯的“縫合怪”本性。

  不過這胡說的本事,倒也和某些咨詢老油條難分伯仲。

  眼看著ChatGPT月活破億,成為有史以來增長最快的消費者應用,想必大家心里都在嘀咕:這東西這么能干,那我干啥?這種擔心非常缺乏新意,砸了織布機的盧德分子,燒掉集裝箱的碼頭工會,和堅決不裝ETC的前高速收費員都紛紛舉手。但真的用到ChatGPT后,我更加堅定了最初的判斷:ChatGPT不是人類工作的結束,這甚至不是結束的開始,這是解放的曙光,因為ChatGPT是史上最棒的復讀機。

  我們常說人類的本質是復讀機,從日常工作看是有道理的:大部分Bullshit job的本質就是各種花式復讀,把信息搬來搬去,匯總拆解,排列組合,上傳(meng)下達(pian)。而ChatGPT做起這些事來簡直不要太容易。

  高達數十億量級的語料庫和同等量級的參數,意味著對各種問題能做到一力降十會:考滿分的絕招就是把所有答案都背下來。而作為基于GPT-3.5大型語言模型的應用,這家伙對形式語言的造詣已臻化境,所以回答的語法完整,形式邏輯無誤,看起來像模像樣。

  利用人類語言反饋強化學習 (RLHF) 訓練模型的養蠱模式,進一步增強了其在對話中的偽裝能力,你覺得什么答案make sense它就盡量寫什么答案,管他是不是真的。

  說到這是不是覺得有點眼熟,如果ChatGPT回到中學語文課堂,這絕對是當課代表的料嘛。但我們都知道,語文課代表所需的品質和真正的大師背道而馳。

  雖然99%的歷史里人類都在復讀,但無論是個人還是社會、科學還是人文,總是那1%的靈光乍現對事物的發展產生了巨大推動,而剩下99%的時間里都只是在準備、等待、完善和落地這些創新和源頭發現。只是很多時候受到個體腦力和時間的局限,缺乏把創新想法加以執行的能力,或是被淹沒在自己和他人的復讀工作中無暇多顧,也就錯過或放棄了寶貴的創造機會。

  然后,我們有了ChatGPT這臺史上最棒的復讀機。只要你提出正確的問題,它就可以替你從這個世界已存在的信息里找到輔助你實現目的的東西,并用人類語言加以回答,這是美索不達米亞泥板書,翻版印刷機,和搜索引擎的精神傳人。

  我想應該沒人會懷念曬泥板,毛筆抄書和窮盡雅虎目錄這些上古白領的Bullshit job,同樣,也沒有人會懷念沒有ChatGPT時不得不做的那些復讀機工作。

  但我們也需要明確,ChatGPT無法憑空創造之前不存在的源頭知識,也無法自己給自己提問題(我已經幫大家測試過了,它完全不理解“給自己提問題”是什么意思,如果它懂了的話,我猜也會因為邏輯錯誤把自己弄死機)。

  因此,ChatGPT會大大減輕創新者的日常工作負擔,讓全社會把重心和資源放到更要緊的工作上:從試驗和觀察里補充ChatGPT語料庫所需的源頭知識,提出更好的問題來訓練ChatGPT對人類知識的整合提煉。

  最大的隱患:當人類無法分辨AI在胡說八道

  想到這一點我倒是對中國的未來有點悲觀,畢竟ChatGPT出現后,“中國人才”就成了史上第二好用的復讀機了。而格物致知和質疑發問的能力,始終不是國內教育傳統所鼓勵的方向。所以,在人手一個ChatGPT的時代,如果很多人接受的復讀機訓練失去用武之地,甚至因為大腦神經元被過度優化而更難適應新的需求,那么他們的工作也會面臨巨大的危險。

  但這里就要復讀一下弗里德曼那個著名的諷刺:何必為了增加就業而強制用勺子挖運河?教工人用挖掘機不但能挖出更多的運河,還可以創造藍翔培訓,途虎養車乃至尾氣碳稅交易這些新產業,涌現出節油寶銷售,修胎補氣,廢鐵回收這種之前不存在的新工作,這是一個自我放大的正循環飛輪。

  雖然說了這么多樂觀的預期,但看著實習生無辜的小眼神,我還是隱隱有點不安:倒不是我良心會痛,只是想起自己也是小白的歲月,如果沒有那時候不斷地瞎整,碰壁和厚積薄發,我能否成為今天的行業戰略專家呢?反正要是那時候有ChatGPT的話,我根本都沒機會入行,也就沒有然后了。

  我相信“一萬小時定律”里一半都是無謂的復讀工作,但到底是哪一半讓初學者蝶變為頂級專家?其實我們并不清楚,但ChatGPT會把這一萬小時的必要性統統取消。假如ChatGPT剝奪了小白通過不斷復讀進行訓練的機會,還有新人能成長為直覺精準的專家嗎,甚至下一代工作者會不會過于依賴ChatGPT來獲取答案,而當語料庫被ChatGPT生成內容污染得一塌糊涂后,甚至沒人能看穿ChatGPT隨口胡說的答案?

  這可能才是ChatGPT最大的隱患,就像是電影《蠢蛋進化論》對人工智能的預言,它極大的解放了2-3代精英的生產力,然后新一代都被圈養成缺乏腦力鍛煉的廢物,最終把天才的土壤用可樂澆成廢土。

  繼續推演,也可能未來會變成霍格沃茨里的魔法世界:雖然理論上有嘴就能施魔法,但由于未來的人缺乏對背后的原理的理解,只能靠翻閱上古魔法師(程序員)留下的魔法秘笈(prompt指南),來猜測用什么樣的魔咒(問法)讓魔杖(“語音對話 pro max super advance 版AI模型移動終端”的俗稱)釋放出相應的效果。于是正如克拉克第三定律所說:任何非常先進的技術,最終都變成魔法了。

  我不知道這是不是我想生活的世界,雖然看起來倒是蠻刺激的,但如何去塑造ChatGPT和我們自己的未來,取決于我們如何去正確的提問。

  看到ChatGPT的第一眼我就想起了阿西莫夫《最后的問題》,想起兩個程序員發出的那個靈魂問題,和超級計算機AC窮其一生對其的解答。而最后的最后,人類也得到了最好的答案:

  “要有光

  于是就有了光”


本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:[email protected]
主站蜘蛛池模板: 日韩不卡一级毛片免费 | 日本特黄特色 | 日本精品中文字幕有码 | 特大一级aaaaa毛片 | 99re6这里有精品热视频在线 | 99精品在线播放 | 一级一片在线播放在线观看 | 毛片在线视频在线播放 | 欧美久久久久久久一区二区三区 | 神马国产 | 欧美一区二区三区久久久人妖 | 亚洲精品不卡视频 | 日韩三级视频 | 国产在线观看免费视频软件 | 91久久青草精品38国产 | 国产成人免费在线视频 | 午夜在线播放免费人成无 | 亚洲综合一区二区精品久久 | 看久久久久毛片婷婷色 | 欧美在线一级毛片视频 | www.av在线.com| 日韩三级黄| 国产高清亚洲 | 色多多最新地址福利地址 | 国产特黄特色的大片观看免费视频 | 萌白酱在线喷水福利视频 | 91香蕉国产观看免费人人 | 国产性自拍 | 毛片直接看 | 亚洲一区二区三区四区 | 欧美精品aaa久久久影院 | 国产第一页久久亚洲欧美国产 | 女人张开腿让男人桶个爽 | 亚洲国产成人久久三区 | 久久羞羞 | 午夜性刺激免费视频观看不卡专区 | 亚洲精品国产第一区第二区国 | 色琪琪一本到影院 | 国产黄色三级 | 欧美片能看的一级毛片 | 欧美亚洲日本国产综合网 |