AI工具雖好用，受訪青年更盼“放心用”

2026-02-28 15:07:29來(lái)源：中新網(wǎng)

近日，影視颶風(fēng)工作室創(chuàng)始人潘天鴻(Tim)發(fā)布了一條視頻，展示字節(jié)跳動(dòng)發(fā)布的AI視頻生成模型“Seedance 2.0”的效果，在感慨該模型的強(qiáng)大功能后，他又特別提到一個(gè)“比較恐怖”的意外發(fā)現(xiàn)——當(dāng)他把自己的照片傳到“Seedance 2.0”上，模型生成的視頻中，不僅有他活靈活現(xiàn)的面孔，這張面孔發(fā)出的聲音，也和他本人的一模一樣。這意味著“Seedance 2.0”大量使用賬號(hào)“影視颶風(fēng)”發(fā)布的視頻進(jìn)行訓(xùn)練。潘天鴻是否曾授權(quán)相關(guān)企業(yè)使用這些視頻？“平臺(tái)的用戶協(xié)議里可能隱藏了類似的授權(quán)條款，但我個(gè)人沒(méi)有收過(guò)錢，也沒(méi)有被聯(lián)系過(guò)授權(quán)。也許他們?cè)诜ɡ砩鲜呛弦?guī)的，但是，這有點(diǎn)恐怖，對(duì)吧？”潘天鴻在視頻中說(shuō)。

盡管“Seedance 2.0”很快緊急叫停了真人人臉上傳功能，但就讀于湖北一所高校的張宇菁依然有所擔(dān)憂。社交媒體時(shí)代，人們常常將自己的影像、聲音等上傳到網(wǎng)上。“這種數(shù)據(jù)一旦泄露或被濫用，很容易引發(fā)詐騙、信息騷擾，作為普通人，我們毫無(wú)還手之力。”他感到使用AI的安全感正在被消磨。

隨著“ChatGPT”“DeepSeek”“Sora”“Seedance”等模型一次又一次刷新人們對(duì)AI的認(rèn)識(shí)，這些工具也正在愈發(fā)深入地涌入普通人的日常生活。近日，中國(guó)青年報(bào)·中青校媒面向以大學(xué)生為主的青年發(fā)起AI工具使用相關(guān)問(wèn)卷調(diào)查，共回收有效問(wèn)卷1390份。調(diào)查結(jié)果顯示，受訪者最常用的AI工具是語(yǔ)言生成類(77.12%)，此外還有圖像生成類(65.32%)、音視頻處理類(30.86%)、辦公學(xué)習(xí)類(27.84%)等。受訪者擔(dān)心目前AI可能引起的風(fēng)險(xiǎn)，有產(chǎn)生“AI幻覺(jué)”或虛假信息，誤導(dǎo)用戶(58.13%)；可能侵犯肖像權(quán)、著作權(quán)等個(gè)人權(quán)益(52.52%)；AI生成內(nèi)容可能被用于詐騙，威脅財(cái)產(chǎn)安全(44.39%)；AI生成內(nèi)容可能受商業(yè)利益影響，缺乏客觀性(27.12%)，等等。

近六成受訪者擔(dān)心與AI對(duì)話被用于精準(zhǔn)用戶畫像

張宇菁日常使用頻率最高的AI是豆包，幾乎遇到任何問(wèn)題都會(huì)第一時(shí)間向其咨詢，但一次意外的搜索，讓他對(duì)個(gè)人數(shù)據(jù)安全產(chǎn)生了強(qiáng)烈的不安。“我在豆包里搜我的名字和學(xué)校，它直接彈出了一整段我的各類信息匯總，我瞬間覺(jué)得后背發(fā)涼。”張宇菁說(shuō)，AI的訓(xùn)練依賴海量數(shù)據(jù)，可普通用戶對(duì)于自己的信息如何被收集、使用，完全沒(méi)有知情權(quán)和控制權(quán)。

張宇菁提到的平臺(tái)用戶信息收集，也讓畢業(yè)于武漢工程大學(xué)的張鴻博感到無(wú)奈。“如今各類平臺(tái)動(dòng)輒要求用戶同意全部條款才能使用，不同意則無(wú)法注冊(cè)，這種‘霸王條款’讓用戶對(duì)隱私保護(hù)毫無(wú)選擇權(quán)。”張鴻博的母親喜歡使用短視頻平臺(tái)的一鍵生成視頻功能，把家人的照片拼接起來(lái)，配上動(dòng)畫、文字和音樂(lè)，分享生活點(diǎn)滴。但每次上傳照片，母親都會(huì)格外擔(dān)心：“這些面部信息傳上去，萬(wàn)一被泄露了怎么辦？”張鴻博也擔(dān)心，如今AI聲音合成、真人圖像生成的技術(shù)日趨成熟，一旦個(gè)人信息泄露，被不法分子利用，進(jìn)行詐騙，后果不堪設(shè)想。張鴻博還發(fā)現(xiàn)，如今抖音、視頻號(hào)上充斥著大量AI生成的內(nèi)容，有些內(nèi)容看似專業(yè)，實(shí)則是虛假信息，一些年輕人都難以辨別，家中長(zhǎng)輩更是頻頻中招，常常將AI生成的虛假科普視頻轉(zhuǎn)發(fā)到家庭群。

北京一所高校的學(xué)生李?yuàn)W(化名)則遇到了個(gè)人地址被AI獲取的情況。當(dāng)他在與AI的對(duì)話框里輸入“某補(bǔ)貼怎么領(lǐng)取”，幾秒后，AI回答：“結(jié)合您當(dāng)前的位置湖北省荊門市……”李?yuàn)W盯著那行字，心里覺(jué)得不太對(duì)勁。“那天我用的是網(wǎng)頁(yè)版。手機(jī)App要獲取地址權(quán)限前，會(huì)提前彈窗詢問(wèn)，但在網(wǎng)頁(yè)端使用，好像沒(méi)有很明顯的提示。”后來(lái)他就此追問(wèn)AI，AI解釋說(shuō)地址是系統(tǒng)信息授權(quán)得來(lái)的，并且保證不會(huì)泄露用戶個(gè)人隱私。“但那種被讀取信息的感覺(jué)，還是不太舒服。”李?yuàn)W說(shuō)。

今年50歲的遼寧大連市民劉明英熱衷于網(wǎng)購(gòu)，也很喜歡使用AI。但她發(fā)現(xiàn)，自己和同事聊天提到的喜好，比如想買某種面包、某種服飾，第二天手機(jī)上就會(huì)出現(xiàn)相關(guān)的推薦內(nèi)容，“感覺(jué)自己的談話被竊聽(tīng)了，連消費(fèi)喜好、生活日常都藏不住”。為了避免這種情況，如今她和家人、朋友聊天時(shí)，會(huì)特意把手機(jī)放到其他房間。

中青校媒調(diào)查顯示，受訪者擔(dān)心與AI的對(duì)話被用于精準(zhǔn)的用戶畫像，并進(jìn)行精準(zhǔn)營(yíng)銷(57.70%)；AI工具過(guò)度收集手機(jī)號(hào)、位置等私人信息(48.78%)；一些公司使用自己的社交媒體信息進(jìn)行訓(xùn)練(33.96%)；等等。

受訪者擔(dān)心被AI生成信息誤導(dǎo)或欺騙

李?yuàn)W感到，這幾年AI已經(jīng)有了明顯的進(jìn)步，甚至可以深度思考、解決專業(yè)性較強(qiáng)的問(wèn)題。李?yuàn)W用AI最多的時(shí)候是做課設(shè)。他的作業(yè)需要處理的數(shù)據(jù)量大、雜、亂，需要好幾步預(yù)處理。現(xiàn)階段的AI就能很好地幫助提升效率。但他也發(fā)現(xiàn)了AI仍存在局限，例如常常生成誤導(dǎo)性信息。

“有一次，AI表示，它給出的代碼會(huì)對(duì)數(shù)據(jù)進(jìn)行五步清洗，我逐行審查，發(fā)現(xiàn)這些代碼真正完成的只有兩步。”他解釋說(shuō)，“可能是因?yàn)閷?duì)話上下文太長(zhǎng)了，它自己記串了，產(chǎn)生了幻覺(jué)。每次到這個(gè)時(shí)候，就得自己人工再核查一遍，從頭再過(guò)一遍代碼。”

云南一所高校的王馨儀在學(xué)校校園媒體運(yùn)營(yíng)微信公眾號(hào)，寫文案是家常便飯，想不到合適的文案時(shí)，她會(huì)求助AI。AI輸出的內(nèi)容質(zhì)量很高，語(yǔ)句很優(yōu)美，看起來(lái)完美無(wú)缺。在文案基本寫好，準(zhǔn)備推進(jìn)審核時(shí)，她讓AI把引用內(nèi)容的出處也列出來(lái)。當(dāng)她照著這些出處去網(wǎng)上逐一核對(duì)，卻傻了眼：“根本找不到出處，作者名字都是虛構(gòu)的。如果我當(dāng)時(shí)沒(méi)仔細(xì)核實(shí)，盲目地用了它給的信息和來(lái)源，那發(fā)表的內(nèi)容就是假的。”

中青校媒調(diào)查顯示，受訪者本人(16.91%)、身邊的同齡朋友(29.57%)、身邊的長(zhǎng)輩(29.35%)等，曾遇到過(guò)對(duì)AI生成內(nèi)容信以為真，甚至被騙的情況。

張宇菁發(fā)現(xiàn)，一些生成式AI還會(huì)刻意“討好”用戶，順著用戶的觀點(diǎn)說(shuō)話，可能讓人形成認(rèn)知偏見(jiàn)。“我說(shuō)某個(gè)專業(yè)很賺錢，AI就只跟我說(shuō)這個(gè)專業(yè)的就業(yè)利好；等我反過(guò)來(lái)說(shuō)這個(gè)行業(yè)不賺錢，它又立刻找一堆反面例子，并不會(huì)客觀分析利弊。”張宇菁直言，這種“墻頭草”式的回應(yīng)，會(huì)讓用戶愈發(fā)堅(jiān)信固有認(rèn)知。

張宇菁家中冰箱異常結(jié)冰，他向AI咨詢溫度調(diào)節(jié)方法，得到的答案卻與正確方法完全相反。“冰箱溫控1-7檔，正確的是夏季調(diào)1-2檔、冬季調(diào)5-6檔，結(jié)果AI告訴我冬季要調(diào)1-2檔，還好我自己反應(yīng)過(guò)來(lái)了，不然冰箱里的冰可能越結(jié)越厚。”張宇菁說(shuō)，當(dāng)他指出錯(cuò)誤后，AI簡(jiǎn)單道歉并糾正，但無(wú)法解釋為何會(huì)出現(xiàn)這樣的錯(cuò)誤。“它只能保證輸出的信息在網(wǎng)上出現(xiàn)過(guò)，但無(wú)法保證真實(shí)性。”張宇菁說(shuō)。

劉明英則感到，AI工具對(duì)中老年群體并不友好。劉明英說(shuō)會(huì)遇到AI工具操作步驟復(fù)雜，或是想要放大字體卻無(wú)法實(shí)現(xiàn)的情況。當(dāng)她著急想要獲取一個(gè)簡(jiǎn)單的答案，AI卻給出一大段分析內(nèi)容。“我希望AI可以根據(jù)需求靈活調(diào)整回答的詳略。”

84.18%受訪者曾遇到過(guò)AI向自己推薦商品或服務(wù)

王馨儀最近發(fā)現(xiàn)，一些AI工具融入了廣告內(nèi)容。就在春節(jié)前幾天，王馨儀在朋友圈里刷到很多朋友“曬”通過(guò)千問(wèn)平臺(tái)買的一分錢奶茶。“感覺(jué)今年AI領(lǐng)域的競(jìng)爭(zhēng)格外激烈。”她說(shuō)。“把AI的功能開(kāi)發(fā)到這個(gè)程度，讓AI和商業(yè)合作，是一件我從來(lái)沒(méi)想過(guò)的事情。”

看似便捷和優(yōu)惠的一杯奶茶，卻讓王馨儀提高了警惕。“AI現(xiàn)在可以幫忙點(diǎn)奶茶，那以后是不是能訂飛機(jī)票、高鐵票？AI與生活聯(lián)系得越緊密，隱私的開(kāi)放度就越高。”在她看來(lái)，AI的發(fā)展是好事，但使用時(shí)還是要處處留心。因此，王馨儀手機(jī)里的每一款A(yù)I應(yīng)用的權(quán)限管理都很謹(jǐn)慎，不讓它們隨意訪問(wèn)相冊(cè)和定位。

中青校媒調(diào)查顯示，84.18%受訪者曾遇到過(guò)AI向自己推薦商品或服務(wù)，其中14.03%受訪者經(jīng)常遇到，36.19%受訪者有時(shí)遇到，33.96%受訪者較少遇到。對(duì)于AI推薦商品或品牌的情況，12.52%受訪者表示排斥，認(rèn)為這損害了AI回答的客觀性；54.75%受訪者表示要謹(jǐn)慎看待，懷疑其是否受商業(yè)利益影響；25.03%受訪者表示只要推薦合理且有用，就可以接受；5.90%受訪者表示歡迎，認(rèn)為這是一種高效獲取購(gòu)物建議的方式；還有1.80%受訪者認(rèn)為無(wú)所謂。

張鴻博也隱約感到AI有意無(wú)意地向他輸出廣告。因?yàn)槭滞笞鲞^(guò)手術(shù)，他在健身前咨詢了豆包，如何健身才能保護(hù)手腕，豆包告訴他的方法中，有一條是使用護(hù)腕，并在回答問(wèn)題后，又展示了幾個(gè)可以繼續(xù)點(diǎn)擊的選項(xiàng)，其中有一條是“是否需要我給你推薦一些護(hù)腕”。張鴻博順勢(shì)點(diǎn)下去，豆包就推薦了Keep、勞拉之星等品牌的護(hù)腕。張鴻博不知道這些并未標(biāo)注廣告字樣的推薦背后是否確實(shí)有商業(yè)合作，但他對(duì)AI推薦的這些產(chǎn)品是否好用持懷疑態(tài)度。

張宇菁也曾遇到類似情況，他想購(gòu)買索尼相機(jī)，向AI咨詢索尼不同系列產(chǎn)品的性能區(qū)別，得到的回答里不僅有產(chǎn)品介紹，還直接附帶了商品鏈接；健身時(shí)，他詢問(wèn)AI如何補(bǔ)充“歐米伽3”，AI在推薦相關(guān)食物后，又推送了多款魚油的購(gòu)買鏈接。“它說(shuō)得有理有據(jù)，很容易讓人相信。”但張宇菁認(rèn)為，這些看似客觀的回答，實(shí)則暗藏消費(fèi)引導(dǎo)，至少應(yīng)該有明顯的“廣告”字樣標(biāo)注。

劉明英有時(shí)會(huì)主動(dòng)讓元寶等AI推薦養(yǎng)生產(chǎn)品、化妝品，但即使她明確表示自己想要經(jīng)濟(jì)實(shí)惠的品牌，但AI還是會(huì)給她推薦一些價(jià)格昂貴的品牌，沒(méi)有什么針對(duì)性。劉明英因此產(chǎn)生了警惕心：“怕它為了賣產(chǎn)品故意推薦。”

在使用AI的過(guò)程中，張鴻博嘗試過(guò)各種方式，規(guī)避虛假信息和各類風(fēng)險(xiǎn)。但在他看來(lái)，這些方法治標(biāo)不治本，AI行業(yè)的健康發(fā)展，更需要從源頭進(jìn)行治理。“首先要讓用戶條款更透明，把選擇權(quán)交還給用戶，比如可以勾選是否授予平臺(tái)某些重要權(quán)限，而不是一刀切。”張鴻博建議，應(yīng)該給AI生成的內(nèi)容添加數(shù)字水印，讓用戶能清晰識(shí)別，同時(shí)建立完善的舉報(bào)渠道，對(duì)虛假信息、違規(guī)推薦進(jìn)行監(jiān)管，更重要的是開(kāi)展AI素養(yǎng)教育，提升全民的辨別能力，讓大家能理性看待和使用AI。

面對(duì)AI常常給出的誤導(dǎo)信息，李?yuàn)W則認(rèn)為，需要從設(shè)置上讓AI直面“幻覺(jué)”。“我希望AI能擁有不知道的勇氣。承認(rèn)自己不知道，比硬編造一個(gè)聽(tīng)起來(lái)合理的答案要好得多。”李?yuàn)W說(shuō)。

張宇菁雖然覺(jué)得AI仍存在各種各樣的問(wèn)題，但他并不否定AI的價(jià)值，只是希望行業(yè)能朝著更規(guī)范的方向發(fā)展。“我希望AI能少一點(diǎn)迎合，多一點(diǎn)客觀，給出問(wèn)題答案時(shí)，能提供多方面的觀點(diǎn)和解決方案。更重要的是，AI的信息來(lái)源要更嚴(yán)謹(jǐn)，引用權(quán)威機(jī)構(gòu)的內(nèi)容并標(biāo)注來(lái)源，讓用戶能清晰辨別真?zhèn)巍?rdquo;同時(shí)，他也呼吁平臺(tái)加強(qiáng)自我監(jiān)管，尤其是在生物數(shù)據(jù)使用、AI生成內(nèi)容審核方面，建立完善的反饋和修正機(jī)制，“只有把AI的信息‘黑箱’打開(kāi)，把數(shù)據(jù)安全的防線筑牢，才能讓用戶真正放心地使用AI，讓技術(shù)真正服務(wù)于人”。

中青校媒調(diào)查顯示，受訪者認(rèn)為，可以建立便捷的渠道，便于公眾舉報(bào)AI生成的侵權(quán)或有害內(nèi)容(57.99%)；在所有AI生成圖像上強(qiáng)制添加易于識(shí)別的“數(shù)字水印”或標(biāo)識(shí)(50.22%)；企業(yè)公開(kāi)其核心AI模型的基本訓(xùn)練數(shù)據(jù)來(lái)源與安全、倫理審查情況(49.28%)；平臺(tái)的征求用戶授權(quán)使用相關(guān)素材進(jìn)行AI訓(xùn)練的信息需要寫在明顯的位置(42.30%)，等等。

標(biāo)簽：三種人千萬(wàn)不能吃蟲草大腸桿菌的作用大閘蟹死了能吃嗎