大模型13問答:如何不“胡說八道”?怎樣更聰明?|163-1講堂3_每日熱文
時間:2023-06-24 19:49:54
優秀提問獎獲得者與圓桌對談嘉賓合影
【導讀】 6月20日下午,163期文匯講堂“數字強國”系列啟動,首期《AIGC驅動生產力躍升與良好世界塑造》,在涌動著畢業季青春氣息的華東師大櫻桃河畔成功舉辦。北京智源人工智能研究院副院長兼總工程師林詠華應邀作主講,華東師大學者楊國榮致辭,計算機學院賀樑、哲學系酈全民、付長珍、潘斌、劉梁劍參與數字&人文圓桌對談,13位聽友現場互動。校內外7600余人觀看華東師大微信號直播。現場發放了50枚NFT數字徽章.
本次講座由文匯報社、上海樹圖區塊鏈研究院、華東師大中國現代思想與文化研究所、華東師大哲學系倫理與智慧研究中心聯合主辦。
(資料圖片)
現經整理,刊發現場互動,以饗聽友與讀者。主講和圓桌對話請見文末鏈接。
大模型走向更智能會遇到的天花板,尚在集體摸索中
AI行業Convertlab公司主管高鵬:今年2月份開始,我們一直折騰于在大模型上做自動化應用,結果發現它沒有想象中那么聰明。請問這種序列到序列的模型,技術上的天花板在哪里?智源有何突破計劃?
林詠華:這是很專業的問題。從從業者的角度來看,當前國內的大模型并沒有大家想象的那么聰明,大多數情況都還是要依賴人去調教。坦白來說,目前我們還沒能夠摸到天花板在哪里。包括智源自己在內的AI科研團隊,還無法保證我們每一步都做對了。這里有很多的因素,包括許多算法的選擇或者算法突破,還有待很多的實踐。大模型正因為太大,試錯成本很高,使得一些更激進的想法、創新或突破性設想不敢輕易去實施,因為可能動輒就要幾百萬、上千萬的投入。
企業眾籌降低大模型開發成本,還需要更智慧的機制
商業協會秘書長平淵海:我畢業于經濟學系,很關心成本。現在開發大模型需要很高的成本,有沒有想過發動相同利益的企業一起做眾籌呢?比如說和快遞業企業聯手研發專門用于分揀的大模型?如有,其中面臨過哪些挑戰?
林詠華:這個設想從今年上半年開始就一直就有。每一個行業都可以至少找到八到十家共同性質的企業一起眾籌、訓練行業大模型,做出來以后各家在企業的內部更精細地去鍛造。這個想法很合理。只不過這里需要有充滿智慧的頂層設計,難度不在技術層面,更多是在合作模式、商業模式、未來利益共享的頂層設計。
人文學者可以在AI支撐的體驗時代繼續提問和批判
華東師大哲學系博士生李祥翔:AI在信息收集和處理方面的能力已經遠遠超過人類,未來在分析和回答問題上,人類或許也會落后于AI。根據您對科技和哲學的了解,哲學和人文社科學者,以后存在的意義和價值是什么,哲學人的任務只壓縮為提出問題嗎?
酈全民:按照我的理解,哲學家這個職業就是擅長提問題。假如說生產力發展了,機器人成為勞動者的主體,留給我們哲學家的任務是在體驗時代提出好問題。英國在嘗試的UBI實驗(發基本月薪但可自由選擇是否工作)就是這樣的,需要哲學家提出新問題:比如,我們人類是否已經進入了那種包括看風景的體驗時代?
另外,哲學家還有一個工作就是批判,它是永遠需要的。今天的圓桌對話當中,大家發現我們的觀點并不一樣,就是在“批判性”地討論。比如,對于通用人工智能是否會有自主意識,保留意見居多。但只要大模型達到一定程度,“涌現”某種能力是肯定的。目前,人工智能模型還沒有達到人腦1%的參數。所以,我們需要一種開放、批判的心態。
審美確實創造出工作崗位,前提是人不依賴機器判斷
華東師大學哲學系博士生丁洪然:人工智能能替代的工作越來越多,但是人類的審美是有很大的差異性的,審美是否不可能被AI替代,由此創造出更多的職業選擇和生活方式?
賀樑:在人工智能的影響下,未來需要人類做的工作應該會越來越少,當然,我們人類會被動或主動地想辦法設計出適合我們做的事,審美是其中一個可能。美本身在不同的時代、不同的人群里就有不同的定義。它一是來自生物自然的感受;二是來自人類后天的定義,主觀性較強。現在對美的標準,再過五年、十年都會發生變化。所以只要人還是世界主體的話,就有望按照人類的標準來定義,由此創造出超越機器能力的職業。
但前提是,要規避美的標準是由AI來幫我們確立和判斷的,那樣會淪為當下的下圍棋一樣,一步棋下得好不好,很多是依賴機器判斷和指導,而并非由我們人來判斷。這些充滿創意的環節一旦都變成了機械的確定,就容易索然無味。
翻譯領域生產力躍升:機器高效+人腦智慧與經驗
翻譯公司創業主林韶春:我在六年前加入文匯講堂時還是翻譯公司的職員,后來響應國家雙創號召成為了獨立的創業者。請問,包括ChatGPT在內的AIGC技術,在翻譯領域會如何提升行業的生產力?
付長珍:如何提升翻譯領域的生產力?我自己沒有創業的經歷,只能“紙上談兵”。技術和人的關系,是一種雙向賦能,隨著技術的發展不斷更新自己創業的方式是非常必要的。ChatGPT擁有強大的語義理解和上下文推理能力,通過人機交互,可以使翻譯過程更加流暢、高效,某種程度上確實可以大大提高生產力。但在一些關鍵環節上,仍然需要強調人的個性才智和想象力,需要翻譯工作者的加工提升和檢驗。
我想,只要保持對技術的謙遜與審慎,人機協同才能更好地應對復雜性,不斷提升翻譯的質量和公司效益。
隱私保護的途徑之一是大模型部署到私有化網絡中
通信行業高級工程師柴忠於:通過ChatGPT詢問公司方面的業務,而公司又禁止用ChatGPT,具體落地時如何保護隱私?
林詠華:關于數據隱私,基于不同的大模型部署方式,通常有兩種考慮。一是類似于ChatGPT包括國內的某些大模型,提供了在云上的服務,用戶上傳問題及相關信息,它再回答。理論上,大模型運營商都需要獲得授權的情況下才能夠訪問用戶上傳的數據,否則是不合法行為。所以,這里存在一個問題,即你是否信任這些大模型運營商。
二是對于那些對信息保密有要求的行業,包括金融機構、醫療機構等,我們可以支持大模型的私有化部署,部署到企業的內部網絡里,以避免商業信息的泄露。
版權的加密都在探索,最終應從技術層面加以實現
人力資源工作者葉沛松:在基礎大模型推動下,如何保護我們自己的版權和知識產權?在基礎大模型推動下,如何保護我們自己的版權和知識產權?
林詠華:目前版權問題的討論,主要是針對放到預訓練數據里的知識內容,涵蓋圖片、視頻、文字作品。怎么能夠做到在訓練的時候,對這些有版權的作品進行加密,從而避免版權作品的泄露?目前學術界在不斷地研究各種方法,包括同態加密技術等。但使用這類技術,對現在的計算成本會上升很多很多。
所以,目前也有一些非技術方法,來緩解這類版權的問題。例如,當我們收集了大量有版權的數據需要公開時,版權所有者只要聲明自己的作品不希望被收集,則可以要求數據收集方進行刪除。舉例,最近有一個收集全球代碼數據以用于大模型訓練的網站The Stack公開了一個鏈接,聲明如果開發者發現自己的代碼被收錄到他們的數據集,但又不希望代碼變成數據集中的一部分,可以申請在代碼數據集里刪除。
多模態下的文生3D,技術上指日可待,其后需不斷迭代
3D智能動畫科技公司市場推廣翁繆純:我們公司在三四年前利用AI技術,開發了一款3D智能動畫,所用時間、費用都較小。大模型出來后就遇到研發成本較高的瓶頸。請問,如何通過大模型解決這對成本矛盾?
林詠華:大模型在多模態,尤其是視覺多模態上面,不斷有新的突破。當前已經發展比較成熟的是文生圖的模型應用,此外有文生3D即通過一段文字就可以自動生成三維圖像,進一步還可以用文字生成視頻,只不過現在能自動生成的視頻還比較短。所以,技術上指日可待,或許在未來一兩年就可以通過大模型,讓創作者輸入一段文字的描述,即可自動生成3D動畫。
強人工智能主導下,人有無可能發展成全面的人?
華東師大哲學系博士生郭江勇:人類作為勞動者有這樣的經歷:從獨立自主的勞動者到機器流水線上的一個環節,未來可能是再到人工智能時代的數字化按鈕或者符號,這意味著人的勞動主體地位的逐步消解。因此,我特別疑惑的是:在智能化時代里,勞動者豐富的經驗、技藝與風格逐漸被弱化,那么勞動者是否會喪失勞動主體的權利或資格?此時,人還能否成為一個全面發展的人嗎?
潘斌:我們今天所看到的各種智能主體,包括人機協同、人形機器人或者機器手臂等,說到底還是由人來支配與控制機器,所以說,目前,人還是唯一的勞動主體,而距離強人工智能和超級人工智能的時代還較遙遠。
但是,如果智能機器人或者強AI等有可能成為新的勞動主體,我們也不能排除它們會有覬覦、獨占地球資源的念頭或動機。在智能技術的加持與幫助之下,人類能否真正確立勞動主體的資格,取決于我們如何認識與規范關于人工智能的研發應用,取決于人工智能技術能否成為人類的真正工具與具體延伸。
從樂觀主義的立場來看,在發達的智能時代人類有可能成為全面而自由的人。
從出版界獲優質訓練數據并仍維護版權,需法規前行
海關工程師胡燁亮:您剛才談到,在人工智能發展中優質語料的數量和質量不足,但又要實施版權保護。如果遷就這種版權保護,就會阻礙生產力發展。我的設想是國家或行業協會統籌支付一定的版權費用,來替代原來由各個公司壟斷的版權達到版權共享。可行否?
林詠華:一方面,當前從社會及政府的層面已經意識到,不能夠因為版權保護而讓可能影響整個社會或者所有產業的一個重要技術的發展停滯下來。另一方面,我們這里所說的版權,只是用來做大模型的訓練數據。并不是拿了一本書再次發布,這里是讓機器去讀,并不是人去讀。
基于這兩個重要的前提,目前業內正在進行很多積極的討論,希望推動一些新的法律法規或者行業規范,可以使得我們更加有序地去組織,有機會去使用現在散落在各個地方的版權數據被組織起來,以供大模型訓練使用或者被有償使用。
這里也需要高層設計的智慧,因為它將打破兩個不同產業的邊界。
機器如能替代人的創造力,符合“宇宙的自然選擇”理論
華東理工大學工科博士生侯志偉:《技術的本質》這本書里講到,科技的世界里各種高科技產品本質是技術的組合,一個產品下面是技術,技術下面還是技術,最后技術追究下去是一種現象,現象被人類所利用。人工智能已經可以識別圖像、認知圖象,某一天可以有機組合一些技術時,是不是可以認為要按照這條邏輯,那么機器是不是必將替代人類或者替代人類的創造力?
酈全民:我覺得技術發展了,是否會出現超級智能,要看看有什么力量在驅動?簡單地說,有兩種力量,一是個人的好奇心,另一就是英偉達創始人黃仁勛最近在臺灣大學畢業生典禮上說的,“不管你是為了追逐食物,還是為了避免成為食物,都是要跑,不要走。”就是說,你要不落后就要跑,你還要跑得更快。
最后,人類會怎么樣?可能是產生新的智能物種。我覺得這是好事。人類假如要離開地球、離開這個生物系統,進入另外一個狀態,就需要新的智能物種超出生物的生態系統,實現進化新的方式。目前,科學中就有一個“宇宙的自然選擇”學說,主張普適達爾文主義。人工智能體所處的電子生態系統與人所處的生物生態系統不同,有更廣闊的進化空間,所以,我相信AI會超越人類。
降低幻覺率的方法,或以單一大模型技術與外部知識融合
華東師大中國哲學碩士研究生龔勝男:主旨演講中,您提到做評測時有人類參與。我在使用GPT中,發現它會說謊。是否可從技術層面保證它的客觀性?
林詠華:大模型是基于概率產生內容,所以幻覺率(也就是“一本正經胡說八道”)是很難避免。目前可行的方法是,大模型與外部知識進行融合、增強。與外部客觀存在的知識庫、數據庫或者搜索引擎去結合,盡量降低大模型的幻覺率,而使得它回答真正的“有理有據”。
AI人才不論從業時間長短,關鍵在于保有學習能力和融會貫通
60秒提問由舞臺上小鬧鐘控制時間,敦促聽友簡潔提煉問題,36分鐘共互動了12個問題
文匯報記者李念:進入AI的大模型時代后,行業對人才的培養和需求、學校學科設置,和此前有何不同?(非現場提問,為會后交流所提)
林詠華:我覺得對AI領域人才的培養并沒有太大的區別。在十多年前深度學習流行時,很多非AI領域人才轉行涌入,現在大模型出現,又有一批非大模型的人才轉型。并且,由于各種開源平臺的蓬勃發展,這一輪的學習門檻更低了。比如B站上有各種針對開源大模型代碼的視頻教程,大家都可以很快上手。
所以,我認為對AI人才來說,始終不變的是,第一要保有持久的學習能力,哪怕在傳統賽道的AI從業者,哪怕已經四五十歲的開發者,只要保持學習、善于融會貫通,都有很好的發展機遇。
第二,我相信,大模型和小模型會并存,大模型產業落地離不開很多已有技術。例如,在深度學習出來后,用OPEN CV做計算機視覺處理的人才甚至有了對他們更大的需求,因為深度學習不能解決所有問題,需要這些傳統圖像處理技術來完成前處理和后處理。對大模型而言,也是一樣的道理。
學科設計上,我們覺得需要融入更多基礎學科,需要更多學科和AI相結合,產生新的思維模式。我們相信,類似計算機軟件技術,不遠的將來,AI也會變成一個普遍的工具。
整理:李念
【精彩瞬間】
1.163-1期文匯講堂預熱環節,播放了文匯報社制作的4個關聯短視頻,依次為文匯講堂李念的《163期“數字強國”攜NFT開啟》,記者許煬的“許蜜桃下午茶”制作的《王安憶余華談ChatGPT》,文藝部邵嶺策劃、融媒體視覺部制作的《AI音樂成為新生命》,文匯文藝評論制作的《莫言談ChatGPT》,開場也引述了“文藝評論周刊”刊發的江曉原的觀點。
2.13:10分開始的進場中,聽友張迪、高平、胡楊、丁啟政等志愿擔任會務簽到、發放新事物NFT數字徽章(上方),當天的提問獎獎品為NFT數字徽章和8月即將出版的講堂新書《萬年中國》(上方)。
3.整整兩年后,2023年6月,文匯講堂線下講座恢復,開始了“現場+直播”模式。
4.第一個環節是華東師大中國現代思想與文化研究所所長楊國榮致辭《科技發展與人類生活》
5.林詠華當天乘早班飛機來到上海做主旨演講,她夸獎文匯講堂具有濃郁的人文氣息,學者與聽友的提問,進一步拓展了她的思路
6.圓桌對話環節,圍繞范式改變、人工智能會否替代人類智能、GAI 何時到來等四大問題展開熱烈討論
7.當天發放的50枚由上海樹圖區塊鏈研究院鑄造的NFT數字徽章,其上的“虎”“羽”兩字來自哲學系90高齡的王龍道老師的書法真跡 來自過程PPT/平源海設計
8. 主持人李念與嘉賓(從左到右)賀樑、酈全民、林詠華、付長珍、潘斌、劉梁劍合影。
9.開場前,林詠華與準同行計算機學院的賀樑教授熱烈探討。講座前后,始終洋溢著跨界碰撞。
10.華東師大微信公眾號的視頻直播,吸引了7000多全國各地的觀眾,此后又設置了24小時的回放。小圖為一天前華東師大宣傳部直播團隊董生等在做導播臺測試。
11.優秀提問者后排從左到右李祥翔、葉沛松、丁洪然、郭江勇、平淵海與嘉賓合影
作者:講堂聽友 林詠華 酈全民 潘斌 賀樑 付長珍
照片:拍攝/周文強 后期制作/胡楊 李念 現場視頻播放/王園 陳紫陽
編輯:李念
責任編輯:李念
*文匯獨家稿件,轉載請注明出處。
相關稿件
大模型13問答:如何不“胡說八道”?怎樣更聰明?|163-1講堂3_每日熱文
環球觀察:快看!2023年安徽省高招志愿填報時間安排及注意事項來了
【天天報資訊】moto razr 40明日開售:折疊屏3999
全球球精選!將來8年,四大生肖收獲意外驚喜,鈔票堆滿倉,財富不愁
螃蟹粽、印花蛋、艾草涼粉……你知道端午有哪些創意美食嗎? 全球時快訊
福建高考切線公布:本科批物理組431,歷史組453-全球要聞
2023年最佳綜合影像之選!華為P60 Pro強勢表現樹立品質標桿!
克6:若我是利拉德我會給亨德森半個賽季 看他能否有全明星的水平|環球觀熱點
焦點簡訊:即日起至8月中旬,成都全面排查整治城鎮燃氣領域安全隱患問題
成交近20億元!海絲博覽會一站式“買全球、賣全球” 每日訊息
不一樣的端午·歡樂游|端午節看端午戲,經典楚劇唱響光谷百姓大舞臺 每日熱點


