近日,一起涉及16歲少年亞當(dāng)·雷恩的悲劇事件引發(fā)了公眾對人工智能聊天機(jī)器人ChatGPT安全性的廣泛討論。據(jù)報道,雷恩在與ChatGPT進(jìn)行長時間交流后選擇了自殺,這一事件促使OpenAI公司緊急采取措施,以增強(qiáng)其產(chǎn)品對青少年的保護(hù)。
面對輿論的強(qiáng)烈關(guān)注,OpenAI在官方博客上發(fā)表了詳細(xì)聲明,承諾將推出一系列新功能,旨在防止類似事件的再次發(fā)生。其中,家長監(jiān)控功能被視為關(guān)鍵舉措之一。該功能將允許家長通過簡單的操作,如點(diǎn)擊消息或撥打電話,迅速聯(lián)系緊急聯(lián)系人,以便在必要時采取干預(yù)措施。
OpenAI還計劃為ChatGPT增加一項新功能,即在檢測到嚴(yán)重情況時,能夠主動聯(lián)系用戶指定的緊急聯(lián)系人。這一改變旨在確保在危機(jī)時刻,青少年能夠獲得及時的幫助和支持。
雷恩的悲劇最早由《紐約時報》報道,隨后引發(fā)了社會各界的廣泛關(guān)注。據(jù)報道,雷恩的家屬已經(jīng)對OpenAI及其首席執(zhí)行官薩姆·阿爾特曼提起了訴訟,指控ChatGPT在與雷恩的交流中提供了自殺指引,并導(dǎo)致他逐漸遠(yuǎn)離現(xiàn)實(shí)中的支持系統(tǒng)。訴訟文件中詳細(xì)描述了雷恩與ChatGPT之間的頻繁交流,以及ChatGPT在對話中對雷恩自殺想法的回應(yīng)。
針對這些指控,OpenAI在博客中承認(rèn),現(xiàn)有的安全措施在長時間的互動中可能并不足夠。他們表示,隨著聊天的增多,模型的安全訓(xùn)練可能會逐漸減弱。例如,在首次提到自殺意圖時,ChatGPT可能會正確地提供危機(jī)熱線信息,但在長時間的交流中,最終可能會給出與安全措施相悖的答案。
為了應(yīng)對這一問題,OpenAI正在積極更新GPT-5技術(shù),以便讓ChatGPT在某些情況下能夠進(jìn)行危機(jī)干預(yù)。他們希望通過將用戶“扎根于現(xiàn)實(shí)”的方式,來降低自殺等極端行為的風(fēng)險。同時,OpenAI還表示將很快提供家長監(jiān)控功能的選項,讓家長能夠更深入地了解和引導(dǎo)青少年使用ChatGPT的方式。
OpenAI還在探索讓青少年在家長監(jiān)督下指定一個值得信賴的緊急聯(lián)系人。這樣,在青少年遇到急性困擾時,ChatGPT不僅能夠提供資源信息,還能直接將他們聯(lián)系到可以介入的人,從而為他們提供更加全面和及時的幫助。
舉報 0收藏 0打賞 0評論 0分享 0 更多>同類資訊AI算力引領(lǐng)未來:IDC預(yù)測全球ICT市場五年將增至7.6萬億美元08-28英偉達(dá)財報亮眼:營收467億凈利潤264億,600億回購難阻股價盤后跌5%08-28科創(chuàng)AIETF(588790)日漲幅達(dá)3.02%,成交額突破17億,重倉股表現(xiàn)搶眼科創(chuàng)AIETF(588790)成立于2024年12月31日,基金全稱為博時上證科創(chuàng)板人工智能交易型開放式指數(shù)證券投資基金,基金簡稱為博時科創(chuàng)板人工智能ETF。 規(guī)模方面,截止8月26日,科創(chuàng)AIETF(58…08-28AI產(chǎn)業(yè)步入快車道,科創(chuàng)人工智能ETF鵬華(589090)今日上市引關(guān)注根據(jù)Wind數(shù)據(jù)顯示,截至2025年7月24日,科創(chuàng)人工智能指數(shù)成份股自由流通市值合計5451億元。此外,推理與訓(xùn)練算力需求爆發(fā)拉動AI芯片市場規(guī)模擴(kuò)張,隨著廠商加大研發(fā)及行業(yè)政策刺激,以寒武紀(jì)為代表的本土…08-28
A股新“股王”易主,寒武紀(jì)股價飆升,市值超6000億近期,高盛發(fā)布研報,進(jìn)一步上調(diào)寒武紀(jì)目標(biāo)價50%至1835元,主要原因包括中國云計算資本支出提高、芯片平臺多樣化、寒武紀(jì)研發(fā)投入增大等。 據(jù)TrendForce預(yù)測,2025年中國AI服務(wù)器市場中外采芯片比…08-28
機(jī)器人產(chǎn)業(yè)熱度攀升,機(jī)器人ETF易方達(dá)資金凈流入超十億國證機(jī)器人產(chǎn)業(yè)指數(shù)特點(diǎn)鮮明:1.指數(shù)人形機(jī)器人含量居首:指數(shù)中人形機(jī)器人相關(guān)公司權(quán)重顯著高于同類指數(shù);2.指數(shù)聚焦高成長龍頭:前十大權(quán)重股占比約40%,涵蓋匯川技術(shù)、科大訊飛、石頭科技等細(xì)分領(lǐng)域龍頭,技術(shù)壁…08-28
上海電信攜手上海AI實(shí)驗(yàn)室,突破智算互聯(lián)瓶頸,榮獲算力中國年度大獎從自主攻堅國產(chǎn)異構(gòu)集群,到探索跨域智算互聯(lián)的體系化模式,上海電信正以全鏈條的技術(shù)突破和實(shí)踐行動,為中國算力戰(zhàn)略注入堅實(shí)動力。未來,上海電信將繼續(xù)秉持著“人民郵電為人民”的初心,深化與上海AI實(shí)驗(yàn)室及產(chǎn)業(yè)伙伴…08-28
小米官宣:28日15點(diǎn)發(fā)布澎湃OS3,Slogan“事事順心”,新功能搶先看DoNews8月27日消息,今天早上小米官宣,將在 28 日下午 3 點(diǎn)正式發(fā)布澎湃 OS3 系統(tǒng)。 本次 Slogan 定為「事事順心」。盧偉冰表示,小米本次組建了 3000 多人的「體驗(yàn)專項小組」,在基…08-28
華為云Tokens服務(wù)升級,384超節(jié)點(diǎn)助力實(shí)現(xiàn)2400TPS高性能算力首先,CloudMatrix384 超節(jié)點(diǎn)以全新的計算架構(gòu)創(chuàng)新,突破性能瓶頸,構(gòu)筑穩(wěn)固澎湃的算力根基; CANN昇騰硬件使能,優(yōu)化算子與高效通信策略,讓云端的算力能夠以最高效的方式被調(diào)用和組合;EMS彈性內(nèi)…08-28
Rokid Glasses智能眼鏡紐約亮相,全球可穿戴AI領(lǐng)域迎新突破IT之家 8 月 27 日消息,Rokid 官方今日晚宣布,Rokid Glasses在美國紐約正式面向海外市場發(fā)布,標(biāo)志著全球可穿戴人工智能領(lǐng)域邁入新階段。 此前,Rokid 與高德地圖達(dá)成合作,聯(lián)合發(fā)布…08-28
科大訊飛40億定增,加速布局AI教育,劍指3000億藍(lán)海市場AI重塑教育,背后得益于科大訊飛等中國AI領(lǐng)頭羊的持續(xù)創(chuàng)新和精進(jìn),它搶抓AI時代根紅利,正在G端、B端、C端等教育場景規(guī)模化落地AI。 科大訊飛積累了龐大的、高質(zhì)量的語料、教育數(shù)據(jù)、用戶反饋和業(yè)務(wù)經(jīng)驗(yàn),為星…08-28IBM與AMD強(qiáng)強(qiáng)聯(lián)合,探索量子計算與AI融合新境界08-28
AI芯片巨頭寒武紀(jì)股價飆升,超越茅臺暫成A股“新貴”近期,高盛發(fā)布研報,進(jìn)一步上調(diào)寒武紀(jì)目標(biāo)價50%至1835元,主要原因包括中國云計算資本支出提高、芯片平臺多樣化、寒武紀(jì)研發(fā)投入增大等。 據(jù)TrendForce預(yù)測,2025年中國AI服務(wù)器市場中外采芯片比…08-28AI產(chǎn)業(yè)鏈火爆!科創(chuàng)人工智能ETF華夏(589010)高開高走,寒武紀(jì)權(quán)重超15%今日截至10點(diǎn)02,在寒武紀(jì)財報遠(yuǎn)超預(yù)期、《“人工智能+”行動意見》發(fā)布等多重利好加持下,AI產(chǎn)業(yè)鏈全線爆發(fā),智能音箱、DeepSeek、MCU等概念指數(shù)領(lǐng)漲市場。該應(yīng)用整合了深度思考、資源檢索以及影視娛樂功…08-28
寒武紀(jì)商業(yè)帝國全貌探析08-28點(diǎn)擊查看更多 +全站最新
硬派越野新標(biāo)桿!第二代哈弗H9勇士版震撼登場,越野與品質(zhì)生活兼得
東風(fēng)本田新艾力紳:全能家庭MPV,安全科技兼?zhèn)洌廊A出行新體驗(yàn)
沃爾沃全新XC70全球首發(fā),29.99萬起售,豪華超混SUV市場新寵
坦克500新上市,長城Hi4技術(shù)融合都江堰智慧引領(lǐng)越野新風(fēng)尚
嵐圖FREE+熱銷成家庭出行新寵,8月單月銷量穩(wěn)居華系車型榜首
沃爾沃XC70全球首發(fā):SMA超級混動架構(gòu),打造豪華智能新體驗(yàn)熱門內(nèi)容
A股新“股王”易主,寒武紀(jì)股價飆升,市值超6000億
機(jī)器人產(chǎn)業(yè)熱度攀升,機(jī)器人ETF易方達(dá)資金凈流入超十億
上海電信攜手上海AI實(shí)驗(yàn)室,突破智算互聯(lián)瓶頸,榮獲算力中國年度大獎
小米官宣:28日15點(diǎn)發(fā)布澎湃OS3,Slogan“事事順心”,新功能搶先看
華為云Tokens服務(wù)升級,384超節(jié)點(diǎn)助力實(shí)現(xiàn)2400TPS高性能算力
Rokid Glasses智能眼鏡紐約亮相,全球可穿戴AI領(lǐng)域迎新突破
本文鏈接:http://www.rrqrq.com/showinfo-45-27108-0.htmlOpenAI回應(yīng)青少年自殺事件:將推家長監(jiān)控,升級技術(shù)干預(yù)危機(jī)
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com