“ChatGPT之父”警告AI可能滅絕人類；英偉達發布新型AI芯片GH200｜AIGC周觀察第四期 天天簡訊

整理｜吳瑩

?

“ChatGPT之父”警告AI可能滅絕人類；英偉達發布新型AI芯片GH200；OpenAI訓練出最強數學解題模型；AI科學家金榕離開推特加入Meta；新AI應用首周下載量碾壓ChatGPT；百度設立10億創投基金促進大模型生態；富士通發布AI平臺Fujitsu Kozuchi；傳媒巨頭CEO嚴重警告：AI或對新聞業造成致命性破壞……

(資料圖片僅供參考)

一起回顧一下吧。

5月31日消息，超過350名人工智能（AI）領域的行業高管、專家和教授簽署了一封公開信，他們在信中警告稱，AI可能給人類帶來滅絕風險。

這封信于周二發表在非營利組織人工智能安全中心（CAIS）的網站上，簽署者包括OpenAI首席執行官山姆·奧特曼、DeepMind首席執行官Demis Hassabis、Anthropic首席執行官Dario Amodei以及微軟和谷歌的高管等。

這封信只有一段話：“減輕AI帶來的滅絕風險，應該與流行病和核戰爭等其他社會規模的風險一起，成為全球優先事項。”

5月29日，英偉達發布新型大內存AI超級計算機——NVIDIA DGX?超級計算機，由英偉達GH200 Grace Hopper超級芯片和NVLink交換機系統提供支持，旨在為生成型AI語言應用、推薦系統和數據分析工作負載開發新一代巨型模型。據介紹，英偉達DGX GH200的巨大共享內存空間使用NVLink互連技術與NVLink交換系統，將256個GH200超級芯片組合在一起，使它們能夠像單個GPU一樣運行。谷歌云、Meta和微軟是首批預計將獲得DGX GH200訪問權的客戶，以探索其在生成式AI工作負載方面的能力。

6月1日凌晨，OpenAI官方博客發布新的研究進展，在數學推理能力上，研究人員正在通過過程監督的獎勵模型揪出大模型的邏輯錯誤。具體方法是，研究人員使用模型思維鏈的最終結果對結果監督的獎勵模型（ORM）進行訓練，而過程監督的獎勵模型（PRM）會接收思維鏈中每一步的反饋訓練。

OpenAI的研究人員對結果監督和過程監督進行了更詳細的比較，他們使用了更強大的基礎模型GPT-4、更多的人類反饋，并在MATH數據集上進行了訓練和測試。基于上述條件，研究人員證明了，過程監督的獎勵模型能解決MATH測試集代表性子集中%的問題。

5月29日消息，知名AI科學家金榕已從推特離職，并已經入職Meta。業內人士猜測，其離開或與推特大規模裁員有關。消息稱，金榕在今年3月入職Meta，在廣告部負責推薦排序相關的AI基礎設施，同時開拓大型語言模型等方向。

據了解，金榕本科畢業于天津大學，北京大學物理學碩士，后赴卡內基梅隆大學語言技術研究所攻讀博士。博士畢業后，于2003年到2014年期間在美國密歇根州立大學計算機科學與工程系任教。2014年7月，阿里在硅谷成立iDST（數據科學與技術研究院），金榕是最早加入的AI大牛之一。之后，金榕又擔任達摩院副院長，負責機器智能研究領域。2022年年中，阿里達摩院有多位技術高層出走，其中包括金榕。

AI熱潮下，ChatGPT移動端在頭六天的下載量就超過了50萬次，而另一邊，一款AI應用“新秀”似乎正以更猛的勢頭閃亮登場。

據科技媒體TechCrunch周四報道，，一款基于LLM（大型語言模型）的聊天機器人應用，聲稱在上市不到一周的時間內就吸引了超過170萬用戶安裝。該媒體對比了第三方數據商和提供的下載量數據，發現前者提供的數字更大。

是一個聊天機器人平臺，上面活躍著馬斯克、特朗普等名人的“數字分身”。在這個應用平臺上，用戶不僅可以與喜歡的角色暢聊，還可以通過快速或高級角色創建模式創建屬于自己的AI機器人并與之互動，并能與其他用戶創建的角色進行交流。在高級創作中，用戶可以輸入冗長的“人設”信息或示范聊天內容，賦予機器人更具體、詳細、生動的性格。

5月31日，李彥宏在摩根大通全球中國峰會期間宣布，百度將設立10億元百度文心投資基金，旨在推動大模型生態繁榮；同時啟動“文心杯”創業大賽，最高獎項為價值1000萬元早期投資。李彥宏認為，中國會有自己的生態系統，擁有自己的大語言模型和基礎模型；中國會出現至少一個，也可能是兩個或三個基礎大模型，可以支持人們開發各種AI原生應用。

6月2日消息，富士通發布AI平臺“Fujitsu Kozuchi”，將面向全球企業用戶提供一系列AI（人工智能）與ML（機器學習）技術。該平臺整合了多種解決方案與工具，包括能夠自動生成機器學習模型的Fujitsu AutoML解決方案；用于測試AI模型公平性的Fujitsu AI Ethics for Fairness；用于從各種數據中挖掘復雜因果關系的因果發現技術；用于模擬科學發現過程的Fujitsu Wide Learning；以及支持對合作伙伴公司開源軟件（OSS）和AI技術的簡化訪問。

5月27日消息，傳媒巨頭新聞集團CEO羅伯特·湯姆森（Robert Thomson）周四出席了在紐約舉行的國際新聞媒體協會世界大會，他向行業領袖發表講話時對AI程序發出了警告。這些AI程序可能會竊取專有內容，或從“被列入黑名單中”的出版物搶走廣告收入。

“我們的集體知識產權正受到AI的威脅，”湯姆森表示，“首先，我們的內容正在被收集和抓取，或者以其他方式被吸收來訓練AI引擎；其次，個別故事將在特定搜索中出現；第三，我們的內容將被合成，并以獨特的方式呈現，而實際上它是對編輯精華的提煉。”

。END 。

值班編輯：王怡潔? 審校：張格格? 制作：胡楠楠