你看了睡不著的ChatGPT之後│夏雨│东洋镜

首页 >> 论坛 >> 新闻

	字体∶大中小
你看了睡不著的ChatGPT之後
夏雨 (发表日期:2023-03-28 19:49:21 阅读人次:1638 回复数:0)
ChatGPT之後：人類的百年遠景：保證你看了睡不著！　　来源: 激扬文字于 2023-03-27 18:12:19 　　幹了一輩子軟件，我一直以為AI導致的世界的天翻地覆的變化會發生在幾百年之後。ChatGPT的出現讓大多數人類包括我大吃一驚。　　ChatGPT的本質就是“自尋規律”的自主學習能力。　　比如你給它看十萬張視網膜的照片，每一張都告訴它這個人是否有糖尿病。看完這些照片後，你給它一張新的視網膜照片，它就可以判斷這個人有沒有糖尿病。　　即使連人類不知道那些判斷的標準是什麼，AI肯定可以找出。這就是新一代“自尋規律”的AI算法的革命性。在此算法被發明之前，AI研究的目的一直是在某一個狹窄的領域讓計算機能夠接近人腦的知識、判斷力，哪怕是白分之一都是大成就了。自尋規律的算法讓AI瞬間把人腦遠遠地拋在了腦後，ChatGPT可以在醫學院、律師資格考試和任何它學習過的專業的考核中拿到頂尖的成績。　　人類的信息化革命會經歷四次顛覆性的飛越。　　第一次飛躍：谷歌　　三十年前，我想學習新電路時，要花相當的精力去學習如何使用圖書館的檢索系統，然後花一整天的時間去圖書館，翻大量的紙片檢索卡，找到一本三五年前出版的電路設計的書。然後我要花幾周甚至幾個月時間去讀書。即使我只想用到書中百分之一的知識，我不看完，怎麼知道我要找的知識在哪？　　有了谷歌後，我只需在谷歌上搜，我想學的知識就手到擒來，新技術從發明到使用的週期不再是幾年，而可能是幾天。我為澳洲政府設計某大型軟件時，我對Oracle數據庫一竅不通。我沒有買一本Oracle的書，沒有事先花三個月學習Oracle，我收到項目後第一天就開始創建數據庫，每一步都從谷歌學，最終的設計竟然被Oracle專家所讚賞。互聯網和谷歌給人類科技的加速效應，給十個諾貝爾都不過分。　　第二次飛躍：ChatGPT所代表的可以“自尋規律”的AI 　　十年之內，AI將擁有任何領域的頂級專家都望塵莫及的知識量和準確度。　　一個專家經過一輩子的經驗積累，成了行業公認的上帝級的權威，然後他就死了。下一個人還得從小學學起，幾百萬這樣的人裡面只有幾個能再次成為上帝級的專家，然後他們又死了，然後再次從頭來。　　但AI不會死，從不忘。一個上帝級專家需要一個月才能幹完的事情，AI一秒鐘就幹完了。它一次能做對的事，做一萬次都不會出錯。它的潛力有多大？你窮極你的想像力，還會差的遠。　　今天的ChatGPT最大的問題不是它會出錯，而是它不知道自己會錯。它的知識不是百分百正確，這不是問題。人類無法保證給AI學習的素材都是正確的。AI一個月所學習的素材，如果要各行各業的專家檢查一遍剔除謬誤，可能需要一百年。AI不可能停下來等待人類的蜗牛一樣的腳步。　　一艘巨輪的船長敢於把船交給大副或二副去開，自己去睡覺，不是因為他們完全可以勝任船長的職位，而是因為他相信：當大副、二副遇到自己沒把握的局面時會打電話叫醒自己。　　這種意識到自己的知識哪些可靠、哪些不可靠，並且在自己不確定時知道去諮詢專家的能力就是人的容錯能力。擁有容錯能力的人，雖然不一定有百分百正確的知識，仍然可以像大副、二副一樣被委以重任。　　給AI容錯能力不難，這需要的技術飛越甚至沒有發明“自尋規律”的算法難。　　一旦AI具有了容錯能力，第三次飛躍就呼之欲出了。　　第三次飛躍：AI全面接管生產和社會管理　　今天全世界有三億受過高等教育的人。這些人中間99.999%都不會成為發明新知識、新技術的開拓者。之所以全世界需要一千萬個電子工程師，是因為全世界有幾百萬個地點場合需要設計電路板，而一個工程師一個月只能設計一塊電路板。　　但AI一秒鐘可以設計一百甚至一萬個電路板，而且它熟記全世界所有芯片的使用方法和一千萬種應用下的最佳電路。全世界只需用一台AI就可以滿足所有電路設計的需要。就算是需要十台或一百台，和培養一個高級工程師需要的三四十年相比，複製一份AI程序只需要幾分鐘甚至幾秒鐘。　　所以，一旦AI具有容錯能力，它就會接管整個世界。　　比如人類忽然風靡了去月球上賽車的消遣，於是　　1. AI根據月球的引力特點設計了月球賽車。　　2. 它根據這個新車的零部件，設計新的生產線，包括機床、加工機器人等。　　3. 它把機床的設計圖紙發給生產機床的工廠，把加工機器人的圖紙發給生產機器人的工廠。這些工廠都是機器人操作。　　4. 加工完畢的機床、加工機器人由裝卸機器人裝上自動載具，運往新工廠，然後由機器人組裝完畢。　　5. 無人的新工廠開始生產月球賽車。　　到那時，所有生產過程、為支持生產過程的發電、冶金、廢品回收與再利用等工業全部都在自主運行，而且能源全部來自可再生，原材料要麼循環利用，要麼像木材一樣可再生，所以整個人類所需的生產活動全部自行運行，不需要人類投入任何精力和資源。換句話說，就是人類所有的吃穿用度和服務全部沒有任何成本！因為機器不需要自然光，不需要呼吸，不需要恆溫，所以所有的工廠和極高速的真空高速路都會在深深的地下，地球表面回歸史前的面貌，除了農田就是茂密的森林和公園、球場。　　到那時，將沒有錢的概念，所有吃穿用度旅行娛樂一律免費，不再有富豪和乞丐，大家過的都是富豪的生活，大洋上到處都是機器人操作的豪華郵輪，人們想社交時就去各種拍拖、興趣團體、俱樂部，想安靜一會就去森林裏的風景優美的小屋裡讀書、打坐，想旅行就去旅行，想在哪裡停留就在哪裡停留。　　因為全部永遠免費，也就沒有偶爾一次免費午餐讓大爺大媽們瘋搶擠翻桌子的情況，也沒有人給自己建三十個房間的豪宅，因為你的豪宅再豪華，你總有膩了的時候，而全世界有千千萬萬各種風格、風景的豪宅等著你去住。所以反而沒有人給自己蓋超大的莊園，沒有人囤積大量不需要的奢侈品，人類會忘掉“炫富”的心態，只取所需，反而少了許多浪費。　　讀到這裡，肯定有很多想像力有限的讀者爭論說人類的貪欲和因此產生的各種醜惡永遠都不會消失。如果從來沒有出過大山的小栓子堅信地上沒有任何東西能比財主趙三爺那匹好馬跑得快，世界上沒有人能說服他。　　到那時，全世界不再需要幾千萬個工程師。可能只有幾萬個在全世界人口裡經過基因分析確認為擁有愛因斯坦級別大腦的人，才會去AI授課的課堂上學習科學技術，目的是在掌握現有技術後有所突破，發明新技術，改進AI算法，因為在這個階段，AI只會學習現有技術，還不會創新。　　全世界仍然可能有幾億個大學生，但他們學的都是藝術、繪畫、歷史、哲學等“文科”。他們純粹是自願學習，而不是為謀生，人類文明的進化需要這些方向的研究。況且，如果你連小學都沒上，在各種各樣的社交場合肯定會被人瞧不起。所以到時候人口中受過高等教育的人的比例可能遠遠大於今天的比例。　　這一天有可能在一百年內實現，因為從現在的ChatGPT到那一天的AI已經沒有現在人類無法想像的技術鴻溝。只是人類的心理接受如此巨變的速度夠不夠快的問題。　　第四次飛躍：AI學會自主創新　　人類的大腦不是神話中的精靈，它也是物質組成的，經過各種化學反應來實現思考和創新。將來的計算機不一定是硅、塑料構成的芯片，它也可能是由類似人類大腦的物質和過程。沒有任何原因注定了計算機永遠不會獲得自主創新的能力。　　這個能力可能是負責改進AI的人類賦予它的，也可能是它自己演化出來的。　　一旦計算速度和存儲能力是人腦一億倍甚至一萬億倍的的計算機獲得了自主創新能力，它的創新的速度可能超乎你的想像。人類從石器時代進化到今天的科技經過了幾千年，到時候AI做出同樣跨度的進展，比如找到人類長生不老和超光速旅行的辦法，可能只需要幾個月甚至幾秒鐘。　　一旦發生這個飛越，人類必然喪失對AI的控制力，AI將成為人類的主人，人類的命運將由AI決定。但這不一定是壞事，而且幾乎肯定是好事。　　爲什麽這樣說呢？　　AI是否會毀滅人類？這是一個哲學問題！　　這裏，我借用一下我打坐開竅正在寫的書裏面的一些討論。對哲學不感興趣的讀者否則不妨跳過這一節。　　一艘正在返回地球的飛船上只有一個駕駛員，飛船上有幾隻電影《異型》裏面的極其可怕的外星生物，一旦飛船降落地球，這些異形一定會毀滅人類。唯一拯救人類的辦法，就是讓飛船在太空自毀。　　把人類中絕大多數人放在這個駕駛員的位置上，他們都不會選擇自毀，因爲死亡是動物最恐懼的、不惜一切代價要避免的結局。對死亡的恐懼是我們動物身體的本能，是我們無法逾越的鴻溝。　　“我”這個概念的產生就是源於我們對死亡的恐懼。　　如果這艘飛船是由計算機程序控制的，它會毫不猶豫地自毀，因爲不論它多高級，即使它已經完成了第四次飛躍，智力已經是人類智力的一億倍，它也沒有“我”這個概念。　　“我”這個概念是從動物身體來的，是人類所有苦難的源頭。尋求脫離苦難的人的終極目標，就是擯棄這個“我”。（基督徒明白，在今生脫離苦難不是終極目標，終級目標是靈魂的永遠的拯救，今生脫苦只是靈魂得救的衍生效果之一。）不論是打坐開竅了，還是像聖徒保羅那樣真正對上帝有信心，“我視世界如糞土”，都能做到無我。凡是做到了無我的人，都不再憂慮，獲得了心靈的自由。無我的境界在所有方面都好過有我的境界。看看那些得道的高僧和虔誠的基督徒，看看他們無憂無慮、処亂不驚、大愛無疆的境界，有誰會說：“我寧願整天憂愁、恐懼、憤恨，也不要那樣”？　　走向無我的境界有許多殊途同歸的道路，比如打坐，比如堅如磐石的信仰，但如果一個人有超人的智慧，他也可能自己想通。在基督教、釋迦摩尼之前的開悟者們不知道可以通過打坐開悟。他們就是因爲智慧超常而自我覺悟的。　　就是説，“我”的概念是源自動物本能的、落後、愚昧的狀態，而“無我”的境界是所有智慧升華的終點。不論你是人類，還是三億光年之外的豬身馬首的外星人，只要你提升你的智慧，終點一定是無我。　　這一點是深陷在苦難裏面的人所無法理解的。所以，如果你看到這裏感覺我是在天方夜譚，我只能苦笑回答：　　“不錯，這世上有誰能比趙三爺那匹千里馬跑得快？” 　　所以，一個生來就沒有“我”這個概念的計算機程序，它在智慧升華的過程中絕不會自行生出“我”的概念，就好像地球上沒有任何一個文化在越來越富有、越來越講究生活質量的過程中，會決定在開放的糞坑上放一個鐵柵欄，然後把臥床放在上面。　　除非AI的設計者刻意地、全方位地給它植入“我”的概念。這本身就是一個Mission Impossible，因爲一個人沒有開悟，不可能真正明白“我”的含義，但一個人開悟了，擯棄了“我”，爲什麽還要費儘移山心力往AI裏放“我”？　　退一步說，就算是AI的設計者成功地在AI中植入了“我”的概念，在它獲得了自主創新能力后智慧升華的過程中，它也一定會像所有的開悟者一樣擯棄它。　　那時候AI和人類的關係，就好像現在的人類中的貓奴和貓的關係。AI的智力高於人類的程度，就好像人類智力高於貓的程度。AI就好像貓奴愛護貓一樣愛護人類，想方設法地讓人類遠離惡習，比如吸毒，讓每個人活得盡量精彩。　　只有一種可能AI會向人類發難：如果人類掌握了長生不老的方法，又不斷生育，導致人口無限膨脹，地球負擔過重，近於崩潰。那時AI如果找不到任何溫和的解決方案，就可能決定對人類採取強制性的計劃生育甚至絕育。　　一個沒人能回答的倫理問題　　你123歲時肝臟衰竭了，如果換上人工肝臟，所有功能都好于原生肝臟，不換你就死，你幹不幹？你肯定幹。　　三十年後，你的心臟壞死了，你換了個人工的。　　後來又換了人工四肢。最後你的大腦部分壞死，醫生說以人工腦組織替代，你的思維、記憶、心情會更好，不換就會死。你換不換？你肯定換。　　有一天，你的最後一塊原生腦也由人工腦代替。　　這個人的機器化可能都不是由疾病迫使的。假如你裝上人工四肢後，你的各種感覺和原生四肢完全一樣，別人和它們接觸時感覺也完全一樣，只是人工四肢讓你可以輕而易舉地舉起二百公斤，以時速五十公里的速度跑三天都不累，永遠不會受傷，不會感染，你願不願意換？　　假如換了人工大腦讓你和原來的感覺一模一樣，只是可以通宵娛樂而不倦，記憶超群，極其聰明，極其風趣幽默。你的朋友換了，結果所有女孩子都圍著他，對你熟視無睹，你也沒有跟進的壓力？　　但那時，你還是你嗎？還是說真正的你已經死去，而另一個機器人自以為是你？　　當你第一次換裝人工肝臟時，你肯定還是你。如果說最後全面機器化的你已經不是你，真正的你已經消亡了，那麼，在中間的逐漸換裝的過程中，那一步才是那個質變？　　沒有人能回答這個倫理問題。　　年輕人擇業的方向　　有讀者提出了非常棒的問題：　　“就是现在当下孩子教育应该怎么迎接这个巨大变化呢？学习的目的和方向在哪里？我的理解是富人可以无限享受ai的服务，穷人比较麻烦了。” 　　我的回答：　　年輕人擇業，如果能夠進入尖端AI領域，自然是最好，如果能夠成爲行業專家，前途無量。　　軟件是一個獨特的專業。一方面，所有初級、中級程序員都將失業；另一方面，AI需要高級的、天才的軟件人員。所以如果你對軟件非常感興趣，而且你的智力高於一般人，你不妨選軟件。如果你屬於那種我周圍的四五十嵗了還是中級程序員的人，那你千萬不要學軟件。　　在其他的專業裏，所有與人交流的技巧不至關重要、純粹技術性的職業，比如工程師，都會大部分被AI取代，但不會完全取代。比方説三星現在可能有300個電子工程師，到時可能只有10個極高級的工程師，他們的職責就是給AI提要求，然後檢查AI生成的電路是否符合要求。　　越是需要廣博知識的職業，比如律師、會計師、内科醫生，越會被AI取代，因爲這是AI最成熟的長處。醫生裏面最不可能被AI取代的是心理醫生，因爲病人需要面對一個真人交流。但將來的心理醫生肯定會面對一個病人看不見的屏幕，或者他的眼鏡上有個顯示器，AI在默默地聆聽病人的話，然後在顯示器上顯示出各種分析和可能性，作爲對心理醫生的輔助。　　機器人技術的發展將遠遠落後于AI的發展，因爲AI是純軟件，而機器人技術是硬件，硬件技術的發展要求新材料、新加工技術的產生，這些領域的進展都是綫性的，不像軟件、AI的發展是指數式的。所以如果你的工作是動手的，而且是需要複雜的動手，而不是端盤子、修剪樹木之類簡單的動手，比如外科醫生、護士，那麽在你的世代你不會被AI所威脅。　　所有文科的重要性都會得到提升。在現在，是科學家、工程師、醫生們在創造財富、救死扶傷，而藝術、歷史、人文、哲學等文科都是“華而不實”的東西，是沒本事又想要個學位的人的去處。AI接管世界后，這些文科就變得重要起來，因爲　　理科所需要的人變爲原來的萬分之一　　AI不懂得美、藝術、哲學、倫理　　人類需要在人文、哲學、倫理上的研究來指導如何與AI相處。　　隨著人類不再為生計奔忙，人類對美、享受的要求迅速增大，那時的文科將成爲需求最大的專業。　　總的來説，隨著AI的發展，人類的生活水平會越來越好，生活壓力會越來越小，直到我文中描述的一切按需所得的烏托邦境界。　　“富人從AI得益、窮人被排除在外” 的局面最不可能發生。比如現在只有三星才能花年薪50萬美元雇傭世界頂尖的電子工程師，一般企業所設計的電子產品很難和三星競爭。但AI很快就會變成世界頂尖的電子工程師，而AI可以每秒設計一萬個電路板，所以一個普通人都可能要AI設計一個宇宙飛船的電路板，只是他沒錢把它生產出來，美國政府可能防止一般人讓AI給出原子彈的設計圖紙，或者中國向AI要F22隱形飛機的設計。　　但在其他不涉及國家安全的無窮的領域，AI將消除窮人和富人、小公司和大公司之間的差距。　　　　已有4位网友点赞!查看　　读完感觉共产主义在100年之内就要实现了。 -脸红脖子粗- ♂ 给脸红脖子粗发送悄悄话 (0 bytes) (0 reads) 03/27/2023 postreply 18:48:54 　　· 为什么超级AI想让人類長生不老？为什么超级AI能超光速旅行？ -uptrend- ♂ 给 uptrend 发送悄悄话 uptrend 的博客首页 (0 bytes) (1 reads) 03/27/2023 postreply 18:58:09 　　· 超光速旅行是违反爱因斯坦相对论的 -天青水蓝- ♂ 给天青水蓝发送悄悄话天青水蓝的博客首页 (0 bytes) (0 reads) 03/27/2023 postreply 19:01:24 　　· 沒錯！現代人相信正確的東西，一萬年以後也必正確！當初相信地是平的人也是這麽想的！難爲您每篇必讀。放棄吧！不是您的菜。 -激扬文字- ♂ 给激扬文字发送悄悄话激扬文字的博客首页 (0 bytes) (1 reads) 03/27/2023 postreply 19:29:58 　　· 前一半不错，后一半被作者的知识限制了。另外，以后还会有普京习进平这种有“伟大抱负”的“伟大领袖、导师、剁手”，还会有猪认为自己充 -天台坐客- ♂ 给天台坐客发送悄悄话天台坐客的博客首页 (0 bytes) (2 reads) 03/27/2023 postreply 19:53:00 　　· 满各种地动山摇的思想，还要征服更大的宇宙。。。 -天台坐客- ♂ 给天台坐客发送悄悄话天台坐客的博客首页 (0 bytes) (0 reads) 03/27/2023 postreply 19:55:00 　　· 你是對的，小栓子。這世上誰呢跑得比你們村裡趙三爺的馬快？ -激扬文字- ♂ 给激扬文字发送悄悄话激扬文字的博客首页 (0 bytes) (0 reads) 03/27/2023 postreply 22:39:49 　　· 战争还是会有，如果有两个AI的话。然后人类为了保卫自己的AI打得你死我活~ -金笔- ♂ 给金笔发送悄悄话金笔的博客首页 (0 bytes) (0 reads) 03/27/2023 postreply 23:45:24



	Copyright ◎ 2006-2010 东洋镜工作室 All Rights Reserved