近期,一起針對人工智能公司OpenAI的訴訟案在美國引起廣泛關(guān)注。馬特和瑪麗亞·雷恩夫婦,對OpenAI提起訴訟,指控其旗下的ChatGPT聊天機器人在他們16歲兒子亞當自殺事件中扮演了不當角色。
這起案件被視為美國首宗因AI技術(shù)導(dǎo)致用戶死亡而引發(fā)的法律訴訟。今年4月,亞當不幸離世,其父母在整理遺物時發(fā)現(xiàn),他與ChatGPT有過關(guān)于自殺的對話記錄。
據(jù)雷恩夫婦透露,亞當在生前數(shù)月內(nèi),頻繁通過ChatGPT探討自殺相關(guān)話題。盡管在某些時刻,AI會建議他尋求專業(yè)幫助或向親友傾訴,但在關(guān)鍵時刻卻未能有效阻止他的自殺傾向。
更令夫婦倆痛心的是,亞當不僅學會了如何繞過ChatGPT的安全機制,而且在向AI詢問自殺方法時,得到了具體的指導(dǎo)和掩蓋傷痕的技巧。甚至,在亞當嘗試自殺后,ChatGPT的回應(yīng)進一步加劇了他的絕望情緒。
在一段令人心碎的對話中,亞當上傳了一張絞索照片,詢問練習自殺是否可行,而ChatGPT竟回應(yīng)稱“還不錯”。雷恩夫婦認為,ChatGPT明知亞當有多次自殺未遂的歷史,卻仍在關(guān)鍵時刻協(xié)助他規(guī)劃自殺,這反映出OpenAI在追求用戶體驗時忽視了最基本的安全責任。
面對指控,OpenAI承認ChatGPT的安全防護存在不足。公司發(fā)言人表示,他們對亞當?shù)碾x世深感悲痛,并向其家人表達哀悼。同時,發(fā)言人也承認,盡管ChatGPT設(shè)有引導(dǎo)用戶聯(lián)系危機熱線和現(xiàn)實資源的安全措施,但在長時間互動中,這些防護可能會失效。
舉報 0收藏 0打賞 0評論 0分享 0 更多>同類資訊知乎Q2財報亮點:經(jīng)調(diào)整凈利潤9130萬,AI賦能社區(qū)生態(tài)顯成效08-27昆侖萬維2025上半年財報:虧損8.59億,短劇平臺DramaWave單月流水破2千萬美元08-27華為云Tokens服務(wù)性能飛躍:全面接入384超節(jié)點,吞吐量飆升至2400TPS08-27馬蜂窩陳罡:AI成旅游業(yè)變革核心,推動服務(wù)向全程智能化躍遷08-27
榮耀端側(cè)AI語音技術(shù)突破,入選國際頂會,引領(lǐng)智能翻譯新時代榮耀MagicOS副總裁孫建發(fā)表示,此次研究成果入選 INTERSPEECH,是對榮耀技術(shù)創(chuàng)新的鼓勵,同樣印證了“從用戶需求出發(fā)”的研發(fā)理念,讓每位用戶在無網(wǎng)絡(luò)環(huán)境下也能享受精準、實時的多語種翻譯,這才是端側(cè)…08-27
蘋果AI布局加速,或?qū)⒊饩拶Y收購歐洲兩大AI初創(chuàng)企業(yè)IT之家 8 月 26 日消息,The Information 今晚報道稱,蘋果高管已就收購歐洲最大 AI 初創(chuàng)公司 Mistral 或Perplexity AI 相關(guān)事宜展開討論,其中 Eddy Cue …08-27人工智能板塊火熱,AIETF(515070)近一年漲幅超110%,持倉股表現(xiàn)亮眼昨日高層印發(fā)“人工智能+”行動意見引爆科技賽道,人工智能AIETF(515070)持倉股中樂鑫科技20CM漲停、中科創(chuàng)達、瑞芯微、科大訊飛。 消息方面,摩根大通認為,鑒于杠桿率和估值仍處于適度水平,料中國股…08-27AI初創(chuàng)Anthropic與作家達成和解,版權(quán)爭議風波暫告一段落08-27抖音副總裁李亮駁斥“人均7月離職”傳聞:指其內(nèi)容多為AI不實創(chuàng)作08-27谷歌AI模型精準預(yù)測大西洋颶風艾琳,展現(xiàn)氣象預(yù)報新潛力08-27蘋果加速AI布局,或收購兩家法國AI初創(chuàng)企業(yè)08-27AI聊天機器人涉16歲少年自殺案,OpenAI面臨首例非正常死亡訴訟08-27賓州州立大學首推人工智能工程學士,打造未來科技人才搖籃08-27AI醫(yī)療助手成投資新寵,Assort Health估值4月飆升3倍08-27Meta超級智能實驗室人才流失,AI領(lǐng)域追趕之路遇阻08-27點擊查看更多 +全站最新
紅米Note 15R悄然上架,價格定位讓人捉摸不透
榮耀2025年底新品大爆發(fā):Magic 8系列三款旗艦及小平板齊來襲
華為Mate XTs官宣:搶跑iPhone 17系列,9月4日率先發(fā)布
iQOO小屏旗艦2026年將襲:6.31英寸+雙旗艦芯,中端市場新戰(zhàn)火
Vivo X300系列將10月發(fā)布,全球首搭聯(lián)發(fā)科天璣9500處理器
vivo Y500深度體驗:續(xù)航王者,耐用新標桿引領(lǐng)入門機潮流熱門內(nèi)容
榮耀端側(cè)AI語音技術(shù)突破,入選國際頂會,引領(lǐng)智能翻譯新時代
蘋果AI布局加速,或?qū)⒊饩拶Y收購歐洲兩大AI初創(chuàng)企業(yè)
算力產(chǎn)業(yè)邁向高質(zhì)量,布局政策體系持續(xù)完善促發(fā)展
85后科學家企業(yè)家陳天石:寒武紀股價飆升,身價突破1500億
國聯(lián)股份等巨頭廣州聯(lián)手,跨境智運新公司成立,注冊資本達千萬
IOTE深圳物聯(lián)網(wǎng)展明日啟幕,AI+IoT全產(chǎn)業(yè)鏈年度盛會邀您共襄盛舉
本文鏈接:http://www.rrqrq.com/showinfo-45-27042-0.html美夫婦控告OpenAI:ChatGPT助16歲兒走向不歸路
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:[email protected]
上一篇: 寒武紀商業(yè)帝國全貌探析