新周期，誰在堅守窄門？
來源：錦緞今日的投資者恐怕已經忘記了，在OpenAI創造出ChatGPT這一殺器的前夜，生成式AI也曾經是一道窄門，窄到連馬斯克都差點失去了信心。在當時的輿論眼中，AGI的道路不夠性感，不夠
9 月 17 日消息，圭多?賴希施塔特（Guido Reichstadter）已絕食 17 天，他表示自己目前狀態尚可，只是行動稍緩，但并無大礙。
據 TheVerge 報道，自 9 月 2 日起，賴希施塔特每天都會出現在人工智能初創公司 Anthropic 的舊金山總部外，從上午 11 點左右一直堅守到下午 5 點。他手持的黑板標語上寫著“絕食抗議：第 15 天”，但事實上，他從 8 月 31 日就已停止進食。這條標語向 Anthropic 提出訴求：“停止通用人工智能（AGI）競賽”。所謂通用人工智能，指的是具備與人類相當甚至超越人類認知能力的人工智能系統。
注意到，通用人工智能一直是科技公司 CEO 們熱衷的“戰斗口號”，無論是大型科技企業還是初創公司的領導者，都在競相爭奪這一具有主觀性的里程碑。但在賴希施塔特看來，這些公司完全沒有正視通用人工智能帶來的生存風險。“這些前沿企業的目標，都是研發出具備人類水平、甚至超越人類水平的通用人工智能系統，也就是超級智能，”他在接受采訪時表示，“我認為這種行為極其瘋狂，充滿風險，而且是極大的風險。我認為現在必須立刻停止?！痹谒磥?，絕食抗議是吸引人工智能領域領導者關注的最直接方式。而如今，持這種想法并采取行動的并非他一人。
賴希施塔特提到了 2023 年 Anthropic 首席執行官達里奧?阿莫代（Dario Amodei）的一次采訪，他認為這次采訪充分體現了人工智能行業的魯莽。阿莫代當時表示：“我認為，人工智能技術發展導致人類文明遭遇災難性后果的概率，可能在 10% 到 25% 之間?！卑⒛捌渌袠I人士認為，通用人工智能的發展是不可避免的，他們聲稱自己的目標只是成為“盡可能負責任的守護者”。但在賴希施塔特眼中，這種說法是“虛構的謊言”，也是“自私自利的借口”。
在賴希施塔特看來，企業有責任避免研發可能對大規模人群造成傷害的技術；而任何了解這一風險的人，也都肩負著一定的責任。
“我現在所做的一切，本質上就是在履行自己的責任。我只是一個普通公民，但我尊重同胞們的生命與福祉，也關心我的國家民眾，”他說，“更何況，我還有兩個孩子?！?span style="display:none">vpv28資訊網——每日最新資訊28at.com
截至目前，Anthropic 尚未對置評請求作出回應。
賴希施塔特表示，每天在 Anthropic 總部外準備抗議時，他都會向公司的安保人員揮手致意；而當 Anthropic 的員工路過時，大多會刻意避開他的目光。不過他提到，至少有一名員工向他表達了類似的“災難性風險擔憂”。他希望能激勵人工智能公司的員工“有勇氣像人一樣行動，而非公司的工具”，因為他們肩負著更重大的責任，畢竟“他們正在研發的是地球上最危險的技術”。
在人工智能安全領域，無數人都與他有著同樣的擔憂。該領域的圈子相對分散，對于人工智能長期來看可能帶來的具體風險，以及如何有效防范這些風險，存在諸多分歧，就連“人工智能安全”這一術語本身，也充滿爭議。但大多數人能達成共識的一點是：人工智能當前的發展方向，對人類而言并非好兆頭。
賴希施塔特透露，大約 25 年前上大學時，他第一次了解到“人類水平人工智能”的潛在可能，當時他覺得這一技術還十分遙遠。但 2022 年 ChatGPT 發布后，他開始高度關注這一領域。他特別擔憂的是，在他看來，人工智能正在加劇美國的威權主義傾向。
“我關心我們的社會，”他說，“我關心我的家人，關心他們的未來。我擔心人工智能的發展會對他們產生影響。我擔心人工智能的應用缺乏倫理約束。同時，我也擔心有充分理由相信，人工智能不僅帶來災難性風險，甚至可能威脅人類的生存。”
近幾個月來，為了讓科技領域的領導者關注這一他認為至關重要的議題，賴希施塔特采取了一系列越來越公開的行動。他此前曾與一個名為“停止人工智能”（Stop AI）的組織合作，該組織致力于“永久禁止超級智能人工智能系統，以防止人類滅絕、大規模失業及其他諸多問題”。今年 2 月，他與該組織的其他成員一同將 OpenAI 舊金山辦公室的門鎖住，包括他在內的數人因妨礙公共秩序被警方逮捕。
9 月 2 日，賴希施塔特通過 Anthropic 的安保前臺，向阿莫代遞交了一封手寫信件；幾天后，他將這封信公之于眾。信中要求阿莫代停止研發“自己無法掌控的技術”，并盡自己所能在全球范圍內阻止人工智能競賽；若阿莫代不愿這么做，需向他說明理由。賴希施塔特在信中寫道：“為了我的孩子，也因為深知當前局勢的緊迫性與嚴重性，我已在 Anthropic 辦公室外開始絕食抗議…… 等待您的回應。”
“我希望他能有最基本的禮貌，回應我的請求，”賴希施塔特表示，“我認為這些（人工智能公司的領導者）從未真正受到過個人層面的質問。匿名地、抽象地‘思考自己的工作可能導致大量人員死亡’，與‘面對一位可能因自己的工作而受害的人，以人的身份向對方解釋原因’，完全是兩碼事?！?span style="display:none">vpv28資訊網——每日最新資訊28at.com
在賴希施塔特發起這場和平抗議后不久，兩名受他啟發的人在倫敦發起了類似行動，持續在谷歌 DeepMind 總部外抗議；另有一人在印度加入抗議行列，并通過直播記錄自己的絕食過程。
邁克爾?特拉齊（Michael Trazzi）參與了倫敦的絕食抗議，7 天后因兩次險些暈倒，并在咨詢醫生后選擇停止絕食，但他仍在支持另一名抗議者丹尼斯?舍雷梅特（Denys Sheremet），舍雷梅特目前已絕食 10 天。特拉齊與賴希施塔特一樣，對人工智能持續發展背景下人類的未來感到擔憂，但兩人都不愿將自己歸為某一特定團體或組織的成員。
特拉齊表示，自 2017 年起，他就開始思考人工智能的風險。他給 DeepMind 首席執行官德米斯?哈薩比斯（Demis Hassabis）寫了一封信，不僅公開發布，還通過中間人轉交。
信中，特拉齊請求哈薩比斯“從今天起，為協調未來暫停超級智能研發邁出第一步，公開聲明：若西方及中國的所有其他主要人工智能公司均同意暫停前沿人工智能模型的研發，DeepMind 也將同意暫停。一旦所有主要公司均同意暫停，各國政府便可推動達成國際協議，以強制落實這一決定?！?span style="display:none">vpv28資訊網——每日最新資訊28at.com
特拉齊在接受采訪時表示：“如果不是因為人工智能存在極大危險，我不會如此支持監管。但我認為…… 世界上有些事物，其發展動力在默認情況下會走向錯誤方向。而人工智能領域，確實需要監管。”
谷歌 DeepMind 傳播總監阿曼達?卡爾?普拉特（Amanda Carl Pratt）在一份聲明中表示：“人工智能領域發展迅速，人們對這項技術難免有不同看法。我們堅信，人工智能有潛力推動科學進步，改善數十億人的生活。在我們構建‘人類從技術中受益、同時免受風險侵害’的未來過程中，安全、保障與負責任的治理始終是我們的首要任務，過去如此，現在亦然。”
特拉齊在社交平臺 X（原推特）上發帖稱，這次絕食抗議引發了他與眾多科技公司員工的討論。他提到，一名 Meta 員工問他：“為什么只針對谷歌的人？我們也在做重要的工作，我們同樣身處這場競賽之中。”
他還在帖文中表示，一名 DeepMind 員工稱，人工智能公司“可能不會發布可能造成災難性傷害的模型，因為機會成本太高”；而另一名 DeepMind 員工則“承認自己認為人工智能導致人類滅絕的可能性很大，但仍選擇在 DeepMind 工作，因為該公司仍是最注重安全的企業之一”。
目前，賴希施塔特致阿莫代的信、特拉齊致哈薩比斯的信均未收到回應（谷歌也拒絕回答 The Verge 提出的“哈薩比斯為何不回信”的問題）。但兩人仍抱有希望，認為他們的行動能換來對方的認可、一場會面，最理想的情況是，這些公司的 CEO 能承諾改變當前的發展方向。
在賴希施塔特看來：“我們正處于一場不受控制、可能走向災難的全球競賽中。若想找到出路，就需要人們愿意說出真相，承認‘我們無法掌控這一切’，并主動尋求幫助?！?span style="display:none">vpv28資訊網——每日最新資訊28at.com
本文鏈接：http://www.rrqrq.com/showinfo-45-27704-0.html已絕食 17 天，美國男子在 Anthropic 總部外呼吁其停止 AGI 競賽
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： 讓 AI 真正“能做研究”，阿里通義 DeepResearch 模型、框架、方案全開源
下一篇： 華為 Pura 70、Mate 60 系列等機型升級 HarmonyOS 6 開發者版本支持真人感小藝、小藝看世界
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號