Redmi Pad評測：紅米充滿野心的一次嘗試
從Note系列到K系列，從藍牙耳機到筆記本電腦，紅米不知不覺之間也已經形成了自己頗有競爭力的產品體系，在中端和次旗艦市場上甚至要比小米新機的表現來得更好，正所謂“大丈夫生居
近期，韓國爆出“利用深度偽造技術換臉制作不特定女性的淫穢內容并廣泛傳播”，再度上演類似“N號房”事件。事發后，也有不少人在社交媒體上發聲，表示自己“被換臉了”。
伴隨今年AI技術逐漸變得唾手可得，一些以“AI美女視頻”為名的創業項目開始出現在網絡上，也誕生了以此謀生的灰色產業鏈。
新浪科技發現，如今在小紅書、閑魚、B站等平臺，利用AI美女視頻教程吸引用戶，號稱“流行賽道，5天破萬粉，日入四位數”的教程，成為行業灰產的溫床。而在另一邊，無論是“AI一鍵換臉”，還是讓照片動起來，在一些陰暗的角落，生成式AI技術的崛起，也引發了一系列的行業亂象。
一鍵換臉：1元教程泛濫，實則全是“賣項目”
新浪科技發現，在閑魚、小紅書上，只需搜索“AI美女”，就能夠看到不少通過生AI技術生成的美女跳舞視頻。
閑魚上面，大量標價0.99元、0.55元甚至0.2元的鏈接內，是一個個內容類似的“教程合集”。價格如此低廉的鏈接拍下之后，這些商家會發來非常豐富的教學資源，其中包括AI換臉視頻需要的軟件下載鏈接、在線工具使用說明、具體的操作教程等內容。也有商家表示，只需要在閑魚關注他，就能直接分享相關教程，可見獲取相關教程的門檻已經趨近于零。
打開這些教程，能夠看到商家給出了詳細的圖文信息，非常直觀展示了如何將泰勒·斯威夫特的演講視頻換成另一個女性的臉。而照著教程一步步操作，的確能夠實現臉部替換。此外，店主表示，教程里有電腦端操作的教程，也有手機端操作的教程，只要多上手操作幾次，就能靠視頻在短視頻平臺吸引關注。
他表示：“美女一直都是流量密碼，我們做的生意就是抓住AI風口。”而閑魚上類似的“AI美女”教程，無一例外基本目的都是引流，標價低只是為了能夠讓大家在搜索結果上能夠顯示在前面。他說，自己主要目的是“賣項目”，所謂“賣項目”，包括《導師IP訓練營》視頻課程、抖音圖文帶貨、小紅書商單、AI自動寫文章分發今日頭條、付費社群等。
比如，今日頭條AI掘金項目，就是通過AI工具，全自動幫你寫文章，發布到今日頭條，每天有流量收益，但當被問及具體操作時，這位店主表示，這是機密要花錢：“市場價5980元，現在早鳥價2980元”，但當被問及交了錢如果沒有月入5萬是否能夠退款，他直言“大家都是成年人，肯定是不退的。”
可以看到，“AI換臉”變成了“網絡賣課”的另一種入口。但是正因如此造成了更大的問題，一方面，號稱“日入過千”的零門檻“AI美女換臉”教程的確真實存在，吸引大量用戶在嘗試后發布AI美女視頻席卷各個社交平臺，但也因此引發了各種社會問題。
例如近日，有網友在社交平臺反映，自己不但被做成了換臉視頻，還被放在收費論壇獲取非法收入。而另一方面，依靠“AI美女”的幌子，一些人依靠數千元高價“課程”賺取利潤，并且即便終不能實現所謂的月收入5萬也無法退費，一條灰色產業鏈就此形成。
老照片復活：高科技？實則套用免費大模型
新浪科技注意到，除了上述AI技術的生意，另一種讓照片動起來的生意如今也風生水起。在電商平臺搜索“老照片復活”能夠看到很多店鋪，一位店主向新浪科技表示，只需要一張照片，就能讓其中的人物動起來。
目前的局限在于，照片中的人物數量必須在3人以內，不可以穿貌似軍裝的衣服，不可以沒穿衣服。除此之外沒有任何要求，不少下單后的用戶表示很滿意。
而在收費方面，這樣一次讓照片“動起來”的價格在9.8元到50元之間，這位店主表示，9.8元的一張，能夠生成5秒視頻，而根據更長生成時間，就需要更多錢。
不過新浪科技發現，在小紅書等社交平臺，類似需求更多以博主拉群的方式進行“私聊”操作，價格并不透明，當問及為何不公開價格時，一位博主表示，具體要看照片質量，“工作量也不一樣”。
新浪科技注意到，一些生意不錯的店鋪，能夠靠AI老照片動起來月銷量超過1000+，若按照低價格9.5元計算，則月收入能過萬。而實際上，這類操作往往是依靠AI大模型來進行，店主本身甚至完全不懂AI技術原理，一位店主表示，自己用的是某個大模型，他坦言：“目前的局限在于照片生成的視頻做出的動作還很隨機，所以有時候要多試幾次才有理想的效果。”
當被問及生成視頻之后，用戶的私人照片和生成結果將如何處理，店主表示會刪除。但新浪科技發現，在很多店鋪內，并沒有相應的說明，而對于已經決定下單的用戶來說，這樣方式并不能確保用戶隱私不會泄露。
一鍵去衣：有人用AI合成不雅照敲詐
AIGC技術的崛起，既給很多普通帶來了商機，也讓圍繞其產生的灰色產業鏈逐漸進入大眾視野。
今年年初，作為“全球頂流”的泰勒·斯威夫特出現了大量“不雅照片”，在國外社交媒體上，相關瀏覽量不但高達上千萬，還有人利用這些照片和視頻高價販賣，甚至以此炒作泰勒·斯威夫特的負面報道。盡管事發后相關的Meta和X平臺快速反應并刪除大量違規信息，但仍有人質疑，這些照片一開始就不應該出現在這些平臺上。
無獨有偶，今年6月，在國內，警方也破獲了一起利用AI技術“一鍵去衣”賺取灰色收入的案件。涉案人白某在境外網站發布廣告，只需要一張日常生活照片，就可以完成“一鍵去衣”效果，而據此人描述，在被抓獲時，他已經在QQ上向351個人販賣過相關圖片，圖片數量將近7000張。
檢察官介紹，白某使用的實際上是一個正規的AI繪圖軟件，而“去衣”只是其中的一個功能模塊。而據新浪科技搜索，在B站等平臺，相關的內容不僅有介紹，還有教程分享，不少用戶在通過私聊和這些視頻博主建立聯系，并有可能因此已經學習相關技術。而在一鍵去衣、AI換臉等技術背后，可能潛藏著更大風險。
例如，深圳警方曾接到報案，有人利用AI技術在網絡各種渠道搜集被害人信息，通過合成裸照進行敲詐勒索，也有人利用這類工具制作假新聞。
專家：任何人都可能成為潛在受害者
隨著人工智能（AI）研發不斷深入，深度偽造技術（Deepfake，以下簡稱深偽技術）也愈發成熟，造成的行業問題格外需要警惕。
浙江大學副教授，浙江數字化發展與治理研究中心研究員高艷東，浙江省平陽縣人民檢察院檢察官李易近期公開發文表示：由于個人生物識別信息具有“唯一性”“不可更改性”等特點，一旦遭泄露、濫用對信息主體傷害大、影響久，因此在個人信息保護等級中應適用高級別。
根據《中華人民共和國個人信息保護法》及相關法律規定，只有在基于國家安全與公共安全需要、刑事偵查與司法程序等特定情況下才可以豁免告知。除上述情形外，任何主體在收集、使用個人生物識別信息時，應當嚴格落實“知情—許可”機制，非明確同意不得收集，收集即違規。另一邊，需要明確個人在網絡上公開的信息并不代表其同意個人生物識別信息的再處理。目前深偽以商業應用場景較多，必須打消經營者“網上信息隨意取用”的誤區，履行其告知義務。此外，信息使用者必須確保告知的有效性。既要包含使用主體、收集目的、處理行為和信息流向等具體信息，又要采取足夠顯著的告知方式，如強制時限的彈窗等。
產業分析師張書樂向新浪科技表示：“這種AI換臉，就是昔日PS換頭一樣，可以讓人隨意去生成任何人的‘虛構內容’，其行為哪怕出于自娛自樂，也同樣侵犯了被換臉對象的個人權益。此外，這樣的換臉術，可能應用的空間很大，包括但不限于惡意捏造、構陷的各種傳播，以及通過換臉術實施各種詐騙和繞開人臉識別系統的行為。”
在他看來，如今由于這些AI換臉技術隨處可獲得，上手使用幾乎沒有門檻，可能再度引發“N號房”事件，他提到：“每個人的照片或視頻，并不僅限于個人擁有，且在攝像頭林立的大時代，你甚至不知道你的頭像被多少陌生人獲得，其風險完全不可測。AI換臉的目標并不局限于女性，任何人都可能成為潛在受害者。”
本文鏈接：http://www.rrqrq.com/showinfo-17-114173-0.html揭秘AI換臉項目：1元教程泛濫 有人合成裸照進行敲詐
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：[email protected]
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：[email protected] 津ICP備18001702號
津公網安備 12010102000574號