<address id="vfnhz"></address>

    <address id="vfnhz"><form id="vfnhz"><nobr id="vfnhz"></nobr></form></address>

    <address id="vfnhz"><address id="vfnhz"><listing id="vfnhz"></listing></address></address>

          <address id="vfnhz"></address>

          曝王雷改戲黃軒辭演上甘嶺

          日前,新智席T性由微博、談皮新浪新聞共同打造的埃羅曝王雷改戲黃軒辭演上甘嶺AI跨界對話欄目《新智者首席Time》完成第二期節目上線,人工智能學者高慶一作為嘉賓主持人,斯加失控與《人類2.0》作者、魯菲“硅谷精神布道師”皮埃羅·斯加魯菲通過對話形式探討了新AI浪潮下,無懼人與機器之間的擁抱關系、人工智能的確定失控與不確定性,并探索了人類未來科技新趨勢等話題。新智席T性

          以下是談皮“新智者首席Time”對話實錄,內容經過編輯略有刪減:

          高慶一:今天特別高興在新智者首席time我們有機會采訪皮埃羅·斯加魯菲。埃羅很有意思的斯加失控是,在2018年,魯菲我記得,無懼我隨便在我的擁抱書店里面看了一本書,叫做人類二點零(Humankind 2.0),皮埃羅不僅僅是一個人工智能學者,他同時還是一個硅谷的創業者,也是一個硅谷的投資人。他非常了解歐洲,也非常了解硅谷,甚至他來中國的次數也非常多。所以一個人又了解亞洲、又了解歐洲、又了解美國,對于科技創新的現狀、歷史和明天,我相信今天的對話,能夠給我們大家以一個啟發。

          皮埃羅先生,我非常榮幸有這個機會和您交談,你知道自2022年10月以來的100天內,我們都見證了諸多神奇的科技發明,也就是ChatGPT、可控核聚變以及室溫超導。我還注意到您在2017年提到一本新書,這是怎么回事?您預測到了未來科技?

          皮埃羅:這不是預測。我只是聽到了大家正在討論的東西,有些預測成為了現實,有些預測沒有實現,我的意思是說,如果你的朋友圈里有來自各個領域的業內人士,這就容易多了,你只要傾聽,然后再想想哪些科技能夠讓我們改變世界,這才是最重要的。我想這就是歐洲與美國之間的一個巨大差異。我在歐洲出生,在歐洲,人們更多關心哪個是真實的,對吧。而在美國的東海岸,哪一個是真實的,哪一個是我能夠很快應用的,而我想在舊金山灣區,人們更多關心的是哪一個將會產生更大的影響,然后你會相信人們會竭盡全力去開發那個能夠產生真正影響的科技,所以我認為我受到了這種精神的影響。

          高慶一:如果讓您從未來科技中刪除一項或者新增一項新技術,那么您的選擇是什么呢?

          皮埃羅:這個問題非常好。有一件事,關于新材料,因為我想我們正逐漸接近能夠創造新材料的革命階段,而不是尋找諸如超導體這樣的材料,我們正在尋找具有超導性能的材料,我想下一代將能夠創造這種材料,而不是尋找這種材料,我們正逐漸接近于這種材料。我得說我知道這是一項絕密的技術。

          高慶一:好吧,我們來聊聊這次訪談的主題吧。第一個問題是關于人類社會的,我相信這個問題您已經回答了好多次,我想每個訪談都是從這個問題開始的,那就是,您認為在未來人工智能是否會趕超人類。但是,我想從另一個角度提出這個問題,您認為人類與機器的關系,人機之間是互為替代的關系、是敵人或者是朋友關系?雙方會攜手創造未來,還是構成競爭關系?我們需要競爭,機器會贏,還是人類會贏,您怎么認為?

          皮埃羅:我們能與并非人類創造的動物一起共存,我們為什么不能與我們制造的機器共存呢,是機器具有更高智能嗎?當我還是個孩子的時候,每個人都認為智能就是指數學能力,世界上第一臺電腦,哪一年制造的,1940年,1951年?

          高慶一:1956年,馮·諾依曼。

          皮埃羅:他已經制造出來了,那臺電腦當時比任何一個人都更加智能,所以說那不是個問題,問題是我們人類能夠與周圍的智能的東西共存,并利用這種智能,這就是我的觀點。

          高慶一:這是一個關于失控或者受控的問題嗎?因為有人說你提到了動物,而人類可以殺死動物,所以說人類比起動物而言具有更高智能這一優勢,但機器有時候會失控,甚至埃隆馬斯克說過,如果我們任由人工智能自由發展,有時會威脅到人類的安全,因此您是否認為人工智能處于受控狀態?

          皮埃羅:我們人類創造了一個非常復雜的社會,有時候這個社會是會失控的,有兩種非常明顯的很可怕的情況,第一種就是經濟,時不時地經濟會崩潰,為什么呢?是經濟學家很愚蠢嗎?不,他們都是非常有智慧的人,但世界經濟非常復雜,如果泰國或者阿根廷出了問題,爆了,你猜怎么著?

          高慶一:整個經濟崩了。

          皮埃羅:我們的經濟崩盤了,簡直難以置信。2007年的經濟大衰退他們還在討論這個經濟崩潰的原因,20年過去了,大家還是不清楚經濟危機的產生原因,所以說經濟是個問題。另一種情況,當然就是國際政治,你知道的,不知怎么的這個地方發生了戰爭,一會兒另一地方也發生戰爭,誰能預料到呢?沒有人。曝王雷改戲黃軒辭演上甘嶺戰爭爆發的原因是什么?于是歷史學家寫出了許多大部頭的書來闡述。所以說我們人類創造了許多失控的復雜系統,這就是現實?,F在,就人工智能而言,埃隆·馬斯克這樣的人這樣告訴我,但是人工智能發展非???,項目推進也很快,對吧,這沒錯。但是有些人希望人工智能的發展速度降下來,對此我沒有特別的想法。我們該如何做呢?我們該如何處理這類復雜系統呢?比如說,出現了某種氣候變化,這種氣候變化很大,我們該怎么應對氣候變化呢?我認為這些問題比人工智能要嚴重得多。因為在這類情況下,人類會陷入非常大的困境,可能導致數百萬人的死亡,那么我們該如何應對這類事情呢?是有一門領域,準確說,叫混沌理論,社會學家會研究這個理論,我們該如何應對這類事情呢?對于這類復雜問題,我們應該如何表明自己的立場呢?這對于人工智能來說不是個新問題,唯一的區別是人工智能發展非???,對吧,因此我們或許應該把速度降一降,也許各國應該達成共識,機器不得快速作出決策。

          高慶一:是的,我們需要應對不確定性,不僅僅是人工智能。但是我常常在想為什么人工智能,你覺得人工智能真的會傷害人類嗎?有沒有這種可能性?

          皮埃羅:任何軟件都可能以各種不同的方式傷害到你,但是如今的人工智能技術的一個問題是,不確定性。如果你回到人工智能的初始階段,其基礎是數學邏輯,那么,優勢是什么呢?優勢就是它很精確,就是邏輯。A至B至C至D至E然后是結論。第二點,你可以一直問為什么,它會回過頭來告訴你,因此這個、因此這個、因此這個、因此這個。對的,符號系統,就是數學,全部是數學邏輯。對于如今非常流行的人工智能而言,這有點令人擔憂,因為人工智能并非基于邏輯,而其本質是不確定性。你知道的,人工智能很厲害,能夠做很多事情,比如說人臉識別。人臉識別就是不確定性推理的一個范例,有時候你在大街上看到某個人,你會說哦那是我朋友,哦搞錯了,不是我朋友。甚至包括我老婆,我要去接我老婆,這時候有個人出現了,說嗨,然后說對不起對不起。好了,這就是不確定性推理。這就是不確定性。因此當我獲得這個結果,如果我問為什么,機器不能回復,因為機器不能夠從數據中得出結論,正如你不能從很多事件中得出結論,這就是我所想說的,這樣就會導致更多的危險。不是因為機器不精確,或者說不確定,而是因為我們應該在使用信息時更加謹慎小心。你提到了ChatGPT,這是個很好的例子。ChatGPT是個很棒的生產力工具,但你必須記住這個工具并不精確,ChatGPT是非常非常容易出錯的,現在呢有些人僅把它用作生產力工具,可以幫我寫出完美的代碼,但是你不能讓ChatGPT為核武器寫代碼。

          高慶一:確實不能

          皮埃羅:顯而易見是不能的,所以說你必須小心謹慎。你該如何使用一個不太精確的工具,比如說你在建一座橋,建造橋梁的人可以使用物理知識,但是他們知道要想把橋建造得更加堅固,僅靠物理知識是不夠的。所以,當你使用ChatGPT的時候,確保你還有別的信息來源,或者你就是專家,能夠控制ChatGPT的運行,這對于新的人工智能,另一問題就是這是人工智能,它并不精確,你不能問為什么,你甚至不能詢問信息來源。我還在使用谷歌,為什么呢,谷歌或者其他搜索引擎,因為我能夠看到信息來源,谷歌告訴我是這個頁面,但是ChatGPT,如果我問尼日利亞的首都在哪里,阿布賈。好的,信息來源是哪里?ChatGPT不知道。區別很大。

          高慶一:因此權威性非常重要,權威性就意味著你的信息來源,但是你知道,在機器學習中

          這是種監督式學習,或者說強化學習,在當時,沒有人對此表示擔憂,但對于深度學習,我們失控了。我們認為這是個黑箱,我們不知道這個機器究竟在想什么,甚至于我們能夠控制機器的簡單邏輯,但我們不能控制其結果。所以問題是,我們怎樣才能讓人工智能系統與人類價值觀保持統一?

          皮埃羅:首先,這不是一個新問題。因為自1983年以來我一直從事人工智能的工作,至今40年了,新技術層出不窮。一直覺得我們在做某種可怕的事情那種恐懼,我們為什么會這樣?我們人類總是善于擔憂,這很好,我希望人類保持擔憂,只有這樣,我們才能防止出現問題。

          高慶一:下一個問題,我想您已經回答過好多次了,未來人工智能會大規模取代人類的工作嗎?

          皮埃羅:最簡單的回答是會取代的,但這不是真正的回答,每一臺機器都取代了人類的工作。一個世紀前,大多數人都是騎馬,120年前,人們大多數騎馬旅行而不是開車,這些馬哪里去了,以及你知道的那些喂馬的人呢?換工作了。我還是孩子的時候,有許多人都是用打字機打字的,這些工作呢?消失了。我小時候在意大利生活,那里每個十字路口都有交通警衛,有交警在指揮交通,現在路口都是交通燈,我們有多少個交通燈?準確說,有數十億個交通燈,這類工作呢?全部沒有了。因此每一項技術都會導致工作的變化,所以當你說失去工作,我更愿意說工作變換了。你這么說暗含的意思是沒有創造就業機會,這不準確。國家變富了,中國更富了,美國更富了,歐洲更富了,你知道的,技術讓人們更加富裕了,而不是讓人們更窮了。而我也是二十世紀八十年代新創造的工作機會的受益人之一,我學的是數學,但幸運的是,我成為一名軟件工程師,否則,我今天不會在這里接受采訪。我的父親是食品銷售人員,他生活得很好,這沒問題,所以說,你應該問我的問題是,新技術將創造出哪些就業機會,因為人們無論年齡大小,必須開始考慮那就是未來的社會,這個才是真正的問題。對于ChatGPT來說,知道誰會丟工作,這個是重要的。在有些情況下,答案很顯然,在某些情況下,答案并不那么明確,會創造出哪些工作,這個問題問得好。最近 Anthropic在舊金山市成立了一家新公司,這個新創公司公開招聘提示工程師,提示工程師是什么工作?我不清楚,但是薪水很豐厚。對吧,這可能是個新的職業,所以你不妨去試一試??偠灾?,就我看來,顯而易見,新的就業機會創造出來了,有的工作消失了,但這只是一個方面,你得告訴我還有哪些工作被創造出來了,然后我們可以對比分析,創造了多少,以及薪水怎么樣等等。至于我的薪水,我的第一筆薪水比我父親一輩子掙的全部薪水還要高,他從未掙過這么多的錢,我的第一筆薪水,這對他而言是足夠羞辱的,所以說,你得考慮過去的情況,而不僅僅是問哪些工作因此消失了。當然,任何技術,按照定義,任何技術都意味著有些工作會被淘汰,我們進入了一個新世界,但你得問一問哪些新的工作確實被創造出來了。

          高慶一:確實是這樣,你認為ChatGPT是個中間界嗎?因為在學術界,對于寫論文、寫文獻綜述的博士生,所有這些章節,均可由ChatGPT代勞嗎?他們可以得到非常不錯的文獻綜述,閱讀該領域的每一份論文,并寫出非常好的概要,你認為ChatGPT或類似的東西,如AI成為一種中間界,因為我們可以將其用作工具,協助我們做好本職工作。

          皮埃羅:這些工具可以幫助人們完成工作,正如我之前所說的,這些工具已經幫助人們編寫軟件程序,現在,如果你是個軟件工程師,你肯定會擔憂不已,但是如果ChatGPT使得數百萬人能夠編寫軟件程序,那很好,軟件工程師已經賺了不少的薪水。

          高慶一:我對這個問題很有興趣,那就是,將來人工智能機器人會有與人類一樣的情感和情緒嗎?他們在未來會擁有像人類一樣的各種情緒嗎?我們會生氣,我們會開心,我們會笑,我們還會哭,你認為未來社會機器會有與我們人類一樣的情感和情緒嗎?

          皮埃羅:這實際上是兩個問題,一個問題是,機器人會像有情緒的人那樣說話做事嗎,我認為最好不要這樣,因為我們人類很容易就生氣,所以說,這是一個問題,實際上取決于我們如何給機器設定程序,這個我們可以避免這種情況,盡量保證回答中不含這些內容,因此我希望我們的聊天機器人能學習我們人類的良好行為,而不是學習我們人類的惡劣行為。這確實是個很大的風險,因為ChatGPT會閱讀Facebook(臉書)、Twitter(推特)上的東西,它會看到大量的表達憤怒的內容,許多人相互叫罵。對吧,因此這是個問題,如果你問的是關于情緒感受方面的神經科學,我不知道答案,我不認為是這樣,我認為人天生如此,天生具有感知情緒的能力。個人觀點,如果你天性不是如此,你可能無法感知情緒,這還是我的個人看法。對于機器而言,我更感興趣的是言行,機器是否會表現得,比如說,不理性,當我們經常生氣的時候這叫不理性,因為如果我生你的氣,你也會生我的氣,有時候我們制造更大的麻煩。

          高慶一:好了,讓我們談一談中國市場吧,ChatGPT現在風靡全球,中國互聯網行業也為之振奮,越來越多的公司和投資人選擇加入大模型這片藍海,這也包括阿里巴巴、百度等知名企業。據您了解,國外的企業也有這么瘋狂嗎?我覺得呢,肯定也是這樣吧。

          皮埃羅:實際上,在歐洲,我剛剛從歐洲過來,而且我對歐洲非常熟悉。在歐洲,大家的興趣很低,所以我認為他們不是那么的瘋狂,我認為最瘋狂的一類人是藝術家,藝術家對這類事物非常瘋狂。但是在科技界,我沒有看到大家都是一片歡騰,我認為他們都是非常講究實際的,他們知道這個技術的局限性,他們也知道這個技術的成本。我的意思是說,只有非常有錢的大企業才能承擔起這些訓練機器的運行成本,所以我認為歐洲人對這項技術的興趣并不大。而在美國,也主要局限于舊金山灣區,我認為對大多數人來說,這個局限指的就是那些機器,因此需要這類大型機器,所以呢,這個技術的吸引力是有限的。你知道為什么通用電氣或者福特公司會在這項技術上投入巨資嗎?一旦技術成熟,他們可以從Open AI公司獲得這項技術,所以我認為最興奮的人主要是加州人和中國人。

          高慶一:藝術家對NFT(非同質化代幣)非常追捧,藝術家對ChatGPT也非常追捧。

          皮埃羅:我們西方人有一個很大的優勢,我們鼓勵藝術家,我們資助藝術家,而藝術家會產生大量的奇思妙想,你知道嗎。是誰創造了網絡空間這個概念?是一位作家。是誰創造了元宇宙這個概念?也是一位作家。你知道的,藝術家都有很好的靈感,有這么一家新創公司,他們是做某種東西的,具體產品我忘了,我讀了那個訪談文章,當訪問者問公司的創始人,對于這個瘋狂的創意,您是如何獲得靈感的,他們開始提到科幻小說、電子游戲、甚至是音樂,他們并沒有提到史蒂夫·喬布斯或愛因斯坦等等,所以我認為中國人低估了藝術家對我們社會的巨大貢獻,甚至對于元宇宙來說,誰是虛擬現實元宇宙的首批用戶呢?

          高慶一:是藝術家。

          皮埃羅:游戲,順便說一下,游戲公司會聘用藝術家,而藝術家會產生許多奇怪的創意,在元宇宙里做哪些事情,甚至是智能手機,iPhone手機之前的老的智能手機。當我還沒有這么一部手機的時候,許多藝術家就擁有一部這樣的手機,想象力和繪畫,確實如此,想象力,創造力,而且他們不一定要賺錢,這是個很大的區別。新創公司必須要賺錢,可能不一定是在六個月內,但你必須有個商業計劃書。藝術家可以產生一些瘋狂的想法,然后你仔細思考,你知道,比如說,哇哦這個想法很意思。

          高慶一:非常棒

          皮埃羅:你知道的,iPod,就是那個讓蘋果公司起死回生的產品,當時我在新加坡開會,那個老板走進會議室,非常生氣,把各種亞洲生產的產品放在那里,MP3播放器這是在亞洲生產的產品,日本吧,也可能是中國,中國香港等等吧。他把這些東西一股腦放在那里,然后說,你們誰能給我解釋一下,為什么iPod會大火,為什么我們的小孩子都在買iPod呀,而不買這些產品呢?這些產品兼容MP3,內存更大,質量更好,老板非常生氣,關鍵是什么,是設計,這看上去很酷,沒錯,這個看上去很酷。就這樣,這就是藝術家的功勞,我不可能設計出很酷的產品。史蒂夫·喬布斯聘用了設計師來設計iPod,這產品甚至和MP3不兼容,也不是最便宜的,甚至不是,但是它很酷,這是一個很典型的例子,所以我認為中國人低估了藝術家對于技術進步的貢獻。

          高慶一:您說得對。您認為什么樣的企業在這條賽道更具有競爭力?

          皮埃羅:哪個賽道?

          高慶一:ChatGPT大模型。

          皮埃羅:嗯,現在這樣的公司很少,只有Open AI、谷歌等,我認為Meta公司擁有非常好的技術,這類公司很少,更好的問題是哪些新創公司有能力發起挑戰,挑戰現有格局。我不希望整個市場僅由3-6家公司,包括中國公司所主導,所以說,哪家新創公司能夠對這些大公司發起挑戰呢?我們有幾個仿人聊天機器人,現在有幾家不錯的新創公司,確實興起的比較少,很多這類公司的投資人以前曾在谷歌、Meta、Open AI公司工作過,這是更有意思的問題,我不希望整個市場僅由大公司所主導。

          高慶一:在中國,投資人以及新創公司之間有一些爭論,大家在爭論 ChatGPT究竟是在幫助新創公司,還是在摧毀新創公司,您認為新創公司該如何更好地運用ChatGPT來增強在這個領域的競爭力呢?

          皮埃羅:好消息是,有20多個免費開源的大型語言模型,而且我認為這些大公司感受到了壓力,因此不得不這樣做。而在硅谷,這種事很正常,你發明了某個東西,你開放源代碼,因為你想看看大家會如何使用你的發明,超過20個,可能截至目前,每周都會增加新的模型,到現在,已經有30個了。這些都是你可以使用的大型語言模型,我能夠使用,如果你繼續的話,可以利用這些模型。GitHub,就是開源開發人員的主要聚集地,你會發現有100個項目,大家利用某個語言模式做點事情,換句話說,此前我認為數據庫可能,我們也是擁有如此程度的開放源代碼,但擁有如此程度的開放源代碼的大型的語言模式,我以前從未見過。太多開源代碼,太多了??偟恼f來,GPT 4.0是第一個沒有開放源代碼的模型,所有其他模型都有開放源代碼,這就給予新創公司極大的鼓勵。那么現在新創公司可以與Open AI公司一較高下嗎?這幾乎是不可能的。為什么呢?因為Open AI公司的后臺老板是微軟,微軟投的錢,大筆的錢,機器非常昂貴,那么新創公司能用語言模型做點什么嗎?可以的,算法,非常簡單,他們可以開發各種非ChatGPT的實際應用,ChatGPT不是他們唯一可用的模型,大型語言模型是大模型,好的,你可以將大模型用于經濟、用于汽車駕駛、用于理財,個人理財,當然,也可用于化學、用于生物學、用于醫學。我認為這會鼓勵新創公司用這些模型進行試驗,從而開發出各種實際應用。所以我的回答是,既是又不是。新創公司能夠與Open AI一較高下嗎,可能不行。沒有意義,對吧。但是他們能否開發出Open AI也開發不出來的東西,有可能。

          高慶一:找到另一條路。最后一個請求,您可以為我簽名嗎?

          皮埃羅:當然可以。

          日前,由微博、新浪新聞共同打造的AI跨界對話欄目《新智者首席Time》完成第二期節目上線,人工智能學者高慶一作為嘉賓主持人,與《人類2.0》作者、“硅谷精神布道師”皮埃羅·斯加魯菲通過對話形式探討了新AI浪潮下,人與機器之間的關系、人工智能的失控與不確定性,并探索了人類未來科技新趨勢等話題。

          以下是“新智者首席Time”對話實錄,內容經過編輯略有刪減:

          高慶一:今天特別高興在新智者首席time我們有機會采訪皮埃羅·斯加魯菲。很有意思的是,在2018年,我記得,我隨便在我的書店里面看了一本書,叫做人類二點零(Humankind 2.0),皮埃羅不僅僅是一個人工智能學者,他同時還是一個硅谷的創業者,也是一個硅谷的投資人。他非常了解歐洲,也非常了解硅谷,甚至他來中國的次數也非常多。所以一個人又了解亞洲、又了解歐洲、又了解美國,對于科技創新的現狀、歷史和明天,我相信今天的對話,能夠給我們大家以一個啟發。

          皮埃羅先生,我非常榮幸有這個機會和您交談,你知道自2022年10月以來的100天內,我們都見證了諸多神奇的科技發明,也就是ChatGPT、可控核聚變以及室溫超導。我還注意到您在2017年提到一本新書,這是怎么回事?您預測到了未來科技?

          皮埃羅:這不是預測。我只是聽到了大家正在討論的東西,有些預測成為了現實,有些預測沒有實現,我的意思是說,如果你的朋友圈里有來自各個領域的業內人士,這就容易多了,你只要傾聽,然后再想想哪些科技能夠讓我們改變世界,這才是最重要的。我想這就是歐洲與美國之間的一個巨大差異。我在歐洲出生,在歐洲,人們更多關心哪個是真實的,對吧。而在美國的東海岸,哪一個是真實的,哪一個是我能夠很快應用的,而我想在舊金山灣區,人們更多關心的是哪一個將會產生更大的影響,然后你會相信人們會竭盡全力去開發那個能夠產生真正影響的科技,所以我認為我受到了這種精神的影響。

          高慶一:如果讓您從未來科技中刪除一項或者新增一項新技術,那么您的選擇是什么呢?

          皮埃羅:這個問題非常好。有一件事,關于新材料,因為我想我們正逐漸接近能夠創造新材料的革命階段,而不是尋找諸如超導體這樣的材料,我們正在尋找具有超導性能的材料,我想下一代將能夠創造這種材料,而不是尋找這種材料,我們正逐漸接近于這種材料。我得說我知道這是一項絕密的技術。

          高慶一:好吧,我們來聊聊這次訪談的主題吧。第一個問題是關于人類社會的,我相信這個問題您已經回答了好多次,我想每個訪談都是從這個問題開始的,那就是,您認為在未來人工智能是否會趕超人類。但是,我想從另一個角度提出這個問題,您認為人類與機器的關系,人機之間是互為替代的關系、是敵人或者是朋友關系?雙方會攜手創造未來,還是構成競爭關系?我們需要競爭,機器會贏,還是人類會贏,您怎么認為?

          皮埃羅:我們能與并非人類創造的動物一起共存,我們為什么不能與我們制造的機器共存呢,是機器具有更高智能嗎?當我還是個孩子的時候,每個人都認為智能就是指數學能力,世界上第一臺電腦,哪一年制造的,1940年,1951年?

          高慶一:1956年,馮·諾依曼。

          皮埃羅:他已經制造出來了,那臺電腦當時比任何一個人都更加智能,所以說那不是個問題,問題是我們人類能夠與周圍的智能的東西共存,并利用這種智能,這就是我的觀點。

          高慶一:這是一個關于失控或者受控的問題嗎?因為有人說你提到了動物,而人類可以殺死動物,所以說人類比起動物而言具有更高智能這一優勢,但機器有時候會失控,甚至埃隆馬斯克說過,如果我們任由人工智能自由發展,有時會威脅到人類的安全,因此您是否認為人工智能處于受控狀態?

          皮埃羅:我們人類創造了一個非常復雜的社會,有時候這個社會是會失控的,有兩種非常明顯的很可怕的情況,第一種就是經濟,時不時地經濟會崩潰,為什么呢?是經濟學家很愚蠢嗎?不,他們都是非常有智慧的人,但世界經濟非常復雜,如果泰國或者阿根廷出了問題,爆了,你猜怎么著?

          高慶一:整個經濟崩了。

          皮埃羅:我們的經濟崩盤了,簡直難以置信。2007年的經濟大衰退他們還在討論這個經濟崩潰的原因,20年過去了,大家還是不清楚經濟危機的產生原因,所以說經濟是個問題。另一種情況,當然就是國際政治,你知道的,不知怎么的這個地方發生了戰爭,一會兒另一地方也發生戰爭,誰能預料到呢?沒有人。戰爭爆發的原因是什么?于是歷史學家寫出了許多大部頭的書來闡述。所以說我們人類創造了許多失控的復雜系統,這就是現實?,F在,就人工智能而言,埃隆·馬斯克這樣的人這樣告訴我,但是人工智能發展非???,項目推進也很快,對吧,這沒錯。但是有些人希望人工智能的發展速度降下來,對此我沒有特別的想法。我們該如何做呢?我們該如何處理這類復雜系統呢?比如說,出現了某種氣候變化,這種氣候變化很大,我們該怎么應對氣候變化呢?我認為這些問題比人工智能要嚴重得多。因為在這類情況下,人類會陷入非常大的困境,可能導致數百萬人的死亡,那么我們該如何應對這類事情呢?是有一門領域,準確說,叫混沌理論,社會學家會研究這個理論,我們該如何應對這類事情呢?對于這類復雜問題,我們應該如何表明自己的立場呢?這對于人工智能來說不是個新問題,唯一的區別是人工智能發展非???,對吧,因此我們或許應該把速度降一降,也許各國應該達成共識,機器不得快速作出決策。

          高慶一:是的,我們需要應對不確定性,不僅僅是人工智能。但是我常常在想為什么人工智能,你覺得人工智能真的會傷害人類嗎?有沒有這種可能性?

          皮埃羅:任何軟件都可能以各種不同的方式傷害到你,但是如今的人工智能技術的一個問題是,不確定性。如果你回到人工智能的初始階段,其基礎是數學邏輯,那么,優勢是什么呢?優勢就是它很精確,就是邏輯。A至B至C至D至E然后是結論。第二點,你可以一直問為什么,它會回過頭來告訴你,因此這個、因此這個、因此這個、因此這個。對的,符號系統,就是數學,全部是數學邏輯。對于如今非常流行的人工智能而言,這有點令人擔憂,因為人工智能并非基于邏輯,而其本質是不確定性。你知道的,人工智能很厲害,能夠做很多事情,比如說人臉識別。人臉識別就是不確定性推理的一個范例,有時候你在大街上看到某個人,你會說哦那是我朋友,哦搞錯了,不是我朋友。甚至包括我老婆,我要去接我老婆,這時候有個人出現了,說嗨,然后說對不起對不起。好了,這就是不確定性推理。這就是不確定性。因此當我獲得這個結果,如果我問為什么,機器不能回復,因為機器不能夠從數據中得出結論,正如你不能從很多事件中得出結論,這就是我所想說的,這樣就會導致更多的危險。不是因為機器不精確,或者說不確定,而是因為我們應該在使用信息時更加謹慎小心。你提到了ChatGPT,這是個很好的例子。ChatGPT是個很棒的生產力工具,但你必須記住這個工具并不精確,ChatGPT是非常非常容易出錯的,現在呢有些人僅把它用作生產力工具,可以幫我寫出完美的代碼,但是你不能讓ChatGPT為核武器寫代碼。

          高慶一:確實不能

          皮埃羅:顯而易見是不能的,所以說你必須小心謹慎。你該如何使用一個不太精確的工具,比如說你在建一座橋,建造橋梁的人可以使用物理知識,但是他們知道要想把橋建造得更加堅固,僅靠物理知識是不夠的。所以,當你使用ChatGPT的時候,確保你還有別的信息來源,或者你就是專家,能夠控制ChatGPT的運行,這對于新的人工智能,另一問題就是這是人工智能,它并不精確,你不能問為什么,你甚至不能詢問信息來源。我還在使用谷歌,為什么呢,谷歌或者其他搜索引擎,因為我能夠看到信息來源,谷歌告訴我是這個頁面,但是ChatGPT,如果我問尼日利亞的首都在哪里,阿布賈。好的,信息來源是哪里?ChatGPT不知道。區別很大。

          高慶一:因此權威性非常重要,權威性就意味著你的信息來源,但是你知道,在機器學習中

          這是種監督式學習,或者說強化學習,在當時,沒有人對此表示擔憂,但對于深度學習,我們失控了。我們認為這是個黑箱,我們不知道這個機器究竟在想什么,甚至于我們能夠控制機器的簡單邏輯,但我們不能控制其結果。所以問題是,我們怎樣才能讓人工智能系統與人類價值觀保持統一?

          皮埃羅:首先,這不是一個新問題。因為自1983年以來我一直從事人工智能的工作,至今40年了,新技術層出不窮。一直覺得我們在做某種可怕的事情那種恐懼,我們為什么會這樣?我們人類總是善于擔憂,這很好,我希望人類保持擔憂,只有這樣,我們才能防止出現問題。

          高慶一:下一個問題,我想您已經回答過好多次了,未來人工智能會大規模取代人類的工作嗎?

          皮埃羅:最簡單的回答是會取代的,但這不是真正的回答,每一臺機器都取代了人類的工作。一個世紀前,大多數人都是騎馬,120年前,人們大多數騎馬旅行而不是開車,這些馬哪里去了,以及你知道的那些喂馬的人呢?換工作了。我還是孩子的時候,有許多人都是用打字機打字的,這些工作呢?消失了。我小時候在意大利生活,那里每個十字路口都有交通警衛,有交警在指揮交通,現在路口都是交通燈,我們有多少個交通燈?準確說,有數十億個交通燈,這類工作呢?全部沒有了。因此每一項技術都會導致工作的變化,所以當你說失去工作,我更愿意說工作變換了。你這么說暗含的意思是沒有創造就業機會,這不準確。國家變富了,中國更富了,美國更富了,歐洲更富了,你知道的,技術讓人們更加富裕了,而不是讓人們更窮了。而我也是二十世紀八十年代新創造的工作機會的受益人之一,我學的是數學,但幸運的是,我成為一名軟件工程師,否則,我今天不會在這里接受采訪。我的父親是食品銷售人員,他生活得很好,這沒問題,所以說,你應該問我的問題是,新技術將創造出哪些就業機會,因為人們無論年齡大小,必須開始考慮那就是未來的社會,這個才是真正的問題。對于ChatGPT來說,知道誰會丟工作,這個是重要的。在有些情況下,答案很顯然,在某些情況下,答案并不那么明確,會創造出哪些工作,這個問題問得好。最近 Anthropic在舊金山市成立了一家新公司,這個新創公司公開招聘提示工程師,提示工程師是什么工作?我不清楚,但是薪水很豐厚。對吧,這可能是個新的職業,所以你不妨去試一試??偠灾?,就我看來,顯而易見,新的就業機會創造出來了,有的工作消失了,但這只是一個方面,你得告訴我還有哪些工作被創造出來了,然后我們可以對比分析,創造了多少,以及薪水怎么樣等等。至于我的薪水,我的第一筆薪水比我父親一輩子掙的全部薪水還要高,他從未掙過這么多的錢,我的第一筆薪水,這對他而言是足夠羞辱的,所以說,你得考慮過去的情況,而不僅僅是問哪些工作因此消失了。當然,任何技術,按照定義,任何技術都意味著有些工作會被淘汰,我們進入了一個新世界,但你得問一問哪些新的工作確實被創造出來了。

          高慶一:確實是這樣,你認為ChatGPT是個中間界嗎?因為在學術界,對于寫論文、寫文獻綜述的博士生,所有這些章節,均可由ChatGPT代勞嗎?他們可以得到非常不錯的文獻綜述,閱讀該領域的每一份論文,并寫出非常好的概要,你認為ChatGPT或類似的東西,如AI成為一種中間界,因為我們可以將其用作工具,協助我們做好本職工作。

          皮埃羅:這些工具可以幫助人們完成工作,正如我之前所說的,這些工具已經幫助人們編寫軟件程序,現在,如果你是個軟件工程師,你肯定會擔憂不已,但是如果ChatGPT使得數百萬人能夠編寫軟件程序,那很好,軟件工程師已經賺了不少的薪水。

          高慶一:我對這個問題很有興趣,那就是,將來人工智能機器人會有與人類一樣的情感和情緒嗎?他們在未來會擁有像人類一樣的各種情緒嗎?我們會生氣,我們會開心,我們會笑,我們還會哭,你認為未來社會機器會有與我們人類一樣的情感和情緒嗎?

          皮埃羅:這實際上是兩個問題,一個問題是,機器人會像有情緒的人那樣說話做事嗎,我認為最好不要這樣,因為我們人類很容易就生氣,所以說,這是一個問題,實際上取決于我們如何給機器設定程序,這個我們可以避免這種情況,盡量保證回答中不含這些內容,因此我希望我們的聊天機器人能學習我們人類的良好行為,而不是學習我們人類的惡劣行為。這確實是個很大的風險,因為ChatGPT會閱讀Facebook(臉書)、Twitter(推特)上的東西,它會看到大量的表達憤怒的內容,許多人相互叫罵。對吧,因此這是個問題,如果你問的是關于情緒感受方面的神經科學,我不知道答案,我不認為是這樣,我認為人天生如此,天生具有感知情緒的能力。個人觀點,如果你天性不是如此,你可能無法感知情緒,這還是我的個人看法。對于機器而言,我更感興趣的是言行,機器是否會表現得,比如說,不理性,當我們經常生氣的時候這叫不理性,因為如果我生你的氣,你也會生我的氣,有時候我們制造更大的麻煩。

          高慶一:好了,讓我們談一談中國市場吧,ChatGPT現在風靡全球,中國互聯網行業也為之振奮,越來越多的公司和投資人選擇加入大模型這片藍海,這也包括阿里巴巴、百度等知名企業。據您了解,國外的企業也有這么瘋狂嗎?我覺得呢,肯定也是這樣吧。

          皮埃羅:實際上,在歐洲,我剛剛從歐洲過來,而且我對歐洲非常熟悉。在歐洲,大家的興趣很低,所以我認為他們不是那么的瘋狂,我認為最瘋狂的一類人是藝術家,藝術家對這類事物非常瘋狂。但是在科技界,我沒有看到大家都是一片歡騰,我認為他們都是非常講究實際的,他們知道這個技術的局限性,他們也知道這個技術的成本。我的意思是說,只有非常有錢的大企業才能承擔起這些訓練機器的運行成本,所以我認為歐洲人對這項技術的興趣并不大。而在美國,也主要局限于舊金山灣區,我認為對大多數人來說,這個局限指的就是那些機器,因此需要這類大型機器,所以呢,這個技術的吸引力是有限的。你知道為什么通用電氣或者福特公司會在這項技術上投入巨資嗎?一旦技術成熟,他們可以從Open AI公司獲得這項技術,所以我認為最興奮的人主要是加州人和中國人。

          高慶一:藝術家對NFT(非同質化代幣)非常追捧,藝術家對ChatGPT也非常追捧。

          皮埃羅:我們西方人有一個很大的優勢,我們鼓勵藝術家,我們資助藝術家,而藝術家會產生大量的奇思妙想,你知道嗎。是誰創造了網絡空間這個概念?是一位作家。是誰創造了元宇宙這個概念?也是一位作家。你知道的,藝術家都有很好的靈感,有這么一家新創公司,他們是做某種東西的,具體產品我忘了,我讀了那個訪談文章,當訪問者問公司的創始人,對于這個瘋狂的創意,您是如何獲得靈感的,他們開始提到科幻小說、電子游戲、甚至是音樂,他們并沒有提到史蒂夫·喬布斯或愛因斯坦等等,所以我認為中國人低估了藝術家對我們社會的巨大貢獻,甚至對于元宇宙來說,誰是虛擬現實元宇宙的首批用戶呢?

          高慶一:是藝術家。

          皮埃羅:游戲,順便說一下,游戲公司會聘用藝術家,而藝術家會產生許多奇怪的創意,在元宇宙里做哪些事情,甚至是智能手機,iPhone手機之前的老的智能手機。當我還沒有這么一部手機的時候,許多藝術家就擁有一部這樣的手機,想象力和繪畫,確實如此,想象力,創造力,而且他們不一定要賺錢,這是個很大的區別。新創公司必須要賺錢,可能不一定是在六個月內,但你必須有個商業計劃書。藝術家可以產生一些瘋狂的想法,然后你仔細思考,你知道,比如說,哇哦這個想法很意思。

          高慶一:非常棒

          皮埃羅:你知道的,iPod,就是那個讓蘋果公司起死回生的產品,當時我在新加坡開會,那個老板走進會議室,非常生氣,把各種亞洲生產的產品放在那里,MP3播放器這是在亞洲生產的產品,日本吧,也可能是中國,中國香港等等吧。他把這些東西一股腦放在那里,然后說,你們誰能給我解釋一下,為什么iPod會大火,為什么我們的小孩子都在買iPod呀,而不買這些產品呢?這些產品兼容MP3,內存更大,質量更好,老板非常生氣,關鍵是什么,是設計,這看上去很酷,沒錯,這個看上去很酷。就這樣,這就是藝術家的功勞,我不可能設計出很酷的產品。史蒂夫·喬布斯聘用了設計師來設計iPod,這產品甚至和MP3不兼容,也不是最便宜的,甚至不是,但是它很酷,這是一個很典型的例子,所以我認為中國人低估了藝術家對于技術進步的貢獻。

          高慶一:您說得對。您認為什么樣的企業在這條賽道更具有競爭力?

          皮埃羅:哪個賽道?

          高慶一:ChatGPT大模型。

          皮埃羅:嗯,現在這樣的公司很少,只有Open AI、谷歌等,我認為Meta公司擁有非常好的技術,這類公司很少,更好的問題是哪些新創公司有能力發起挑戰,挑戰現有格局。我不希望整個市場僅由3-6家公司,包括中國公司所主導,所以說,哪家新創公司能夠對這些大公司發起挑戰呢?我們有幾個仿人聊天機器人,現在有幾家不錯的新創公司,確實興起的比較少,很多這類公司的投資人以前曾在谷歌、Meta、Open AI公司工作過,這是更有意思的問題,我不希望整個市場僅由大公司所主導。

          高慶一:在中國,投資人以及新創公司之間有一些爭論,大家在爭論 ChatGPT究竟是在幫助新創公司,還是在摧毀新創公司,您認為新創公司該如何更好地運用ChatGPT來增強在這個領域的競爭力呢?

          皮埃羅:好消息是,有20多個免費開源的大型語言模型,而且我認為這些大公司感受到了壓力,因此不得不這樣做。而在硅谷,這種事很正常,你發明了某個東西,你開放源代碼,因為你想看看大家會如何使用你的發明,超過20個,可能截至目前,每周都會增加新的模型,到現在,已經有30個了。這些都是你可以使用的大型語言模型,我能夠使用,如果你繼續的話,可以利用這些模型。GitHub,就是開源開發人員的主要聚集地,你會發現有100個項目,大家利用某個語言模式做點事情,換句話說,此前我認為數據庫可能,我們也是擁有如此程度的開放源代碼,但擁有如此程度的開放源代碼的大型的語言模式,我以前從未見過。太多開源代碼,太多了??偟恼f來,GPT 4.0是第一個沒有開放源代碼的模型,所有其他模型都有開放源代碼,這就給予新創公司極大的鼓勵。那么現在新創公司可以與Open AI公司一較高下嗎?這幾乎是不可能的。為什么呢?因為Open AI公司的后臺老板是微軟,微軟投的錢,大筆的錢,機器非常昂貴,那么新創公司能用語言模型做點什么嗎?可以的,算法,非常簡單,他們可以開發各種非ChatGPT的實際應用,ChatGPT不是他們唯一可用的模型,大型語言模型是大模型,好的,你可以將大模型用于經濟、用于汽車駕駛、用于理財,個人理財,當然,也可用于化學、用于生物學、用于醫學。我認為這會鼓勵新創公司用這些模型進行試驗,從而開發出各種實際應用。所以我的回答是,既是又不是。新創公司能夠與Open AI一較高下嗎,可能不行。沒有意義,對吧。但是他們能否開發出Open AI也開發不出來的東西,有可能。

          高慶一:找到另一條路。最后一個請求,您可以為我簽名嗎?

          皮埃羅:當然可以。

          无码人妻熟妇av又粗又大_亚洲无码免费观看_亚洲一区在线播放_国产一区二区三区无码

          <address id="vfnhz"></address>

            <address id="vfnhz"><form id="vfnhz"><nobr id="vfnhz"></nobr></form></address>

            <address id="vfnhz"><address id="vfnhz"><listing id="vfnhz"></listing></address></address>

                  <address id="vfnhz"></address>