日前,，實驗室博士生趙雯欣作為第一作者的論文“YouthCare: Building a Personalized Collaborative Video Censorship Tool to Support Parent-Child Joint Media Engagement”被 CCF A類會議The ACM CHI Conference on Human Factors in Computing Systems (CHI) 會議錄用。該論文是復(fù)旦計算機學(xué)院與社會發(fā)展與公共政策學(xué)院社會工作學(xué)系跨學(xué)科研究團隊AI4SS（AI for Social Science）的最新研究成果,。

該研究通過多模態(tài)大模型（MLLMs）與社會科學(xué)理論的深度融合,，構(gòu)建了面向親子數(shù)字生態(tài)的智能協(xié)作系統(tǒng)。研究以發(fā)展心理學(xué)中的父母調(diào)節(jié)理論（Parental Mediation Theory）為認(rèn)知基礎(chǔ),，采用以人為中心的參與式設(shè)計方法,，開發(fā)出面向親子場景的YouthCare智能協(xié)作系統(tǒng)。具體來說,，論文探討了在線視頻對青少年的潛在負(fù)面影響,，并深入分析了家長與青少年在親子聯(lián)合媒體參與（Parent-Child Joint Media Engagement, JME）過程中的需求與挑戰(zhàn)。針對于現(xiàn)有親子聯(lián)合媒體參與機制高度依賴家長的時間,、知識和經(jīng)驗等問題,，論文設(shè)計了一種個性化協(xié)作視頻審核系統(tǒng)YouthCare，充分利用多模態(tài)大模型的強大能力,，結(jié)合視頻內(nèi)容解析和自然語言處理,，旨在幫助家長與青少年高效過濾不適宜內(nèi)容并選擇適宜內(nèi)容。該系統(tǒng)可延伸至家庭數(shù)字教養(yǎng)實踐,、青少年網(wǎng)絡(luò)保護等社會科學(xué)應(yīng)用場景,，為AI技術(shù)賦能人文社科研究提供了可擴展的跨學(xué)科范式。

會議簡介

ACM CHI 2025 (The ACM Conference on Human Factors in Computing Systems)是國際公認(rèn)的人機交互頂級學(xué)術(shù)會議,，其在學(xué)術(shù)界和工業(yè)界享有極高聲譽,，是中國計算機學(xué)會推薦的A類國際學(xué)術(shù)會議。與其它計算機科學(xué)會議相比,，CHI規(guī)模龐大,，更加注重人與技術(shù)之間的互動,、探索創(chuàng)新的交互方式,、新興技術(shù)在真實世界的應(yīng)用、以及技術(shù)使用中的社會影響與倫理因素,。今年CHI2025會議錄用結(jié)果公布,，本次會議共收到5014份完整投稿，最終錄用1249篇,，錄用率為24.9%,。該會議計劃于2025年4月26日至5月1日在日本橫濱召開,。

論文簡介

YouthCare：支持父母和孩子聯(lián)合媒體參與的個性化協(xié)作視頻審查系統(tǒng)

論文鏈接：https://arxiv.org/abs/2503.02151

隨著數(shù)字時代的進步，越來越多的青少年開始頻繁使用互聯(lián)網(wǎng),。目前,，全球互聯(lián)網(wǎng)用戶中約三分之一是青少年，在英國,、加拿大等國家,，12-14歲青少年使用互聯(lián)網(wǎng)的比例超過了95%，在美國超過96% ,。近五年來,，中國青少年網(wǎng)民的規(guī)模從1.69億增長到1.93億，青少年互聯(lián)網(wǎng)普及率從93.7%增長到97.2%,，其中小學(xué)生互聯(lián)網(wǎng)普及率都已達到95.1%,。在這種背景下，視頻平臺因其豐富的資源內(nèi)容而深受青少年的喜愛,，成為青少年在線學(xué)習(xí)和娛樂主要平臺,。然而，現(xiàn)有的視頻平臺往往缺乏針對青少年的設(shè)計考慮,，平臺內(nèi)容與該年齡群體的特征存在顯著不匹配,。因此，青少年經(jīng)常接觸到不健康或不適宜的視頻內(nèi)容,，如暴力,、色情和犯罪，這嚴(yán)重影響了他們的在線體驗,，甚至對身心健康造成影響,。根據(jù)皮亞杰的認(rèn)知發(fā)展理論，青少年,，特別是處于具體運算階段（7-11歲）和形式運算階段（11歲及以上）的青少年,，在自我認(rèn)知、抽象思維和經(jīng)驗性推理方面存在一定的局限性,。對于這些階段的青少年來說,，父母的參與對其成長和發(fā)展至關(guān)重要。這種參與不僅有助于保護青少年免受潛在危害,，還能促進代際溝通,，增強相互理解與信任，并培養(yǎng)積極的家庭氛圍,。

在此背景下,，現(xiàn)有的研究和視頻平臺已引入了各種父母調(diào)節(jié)機制，以減輕在線視頻環(huán)境對青少年的負(fù)面影響。例如,，父母調(diào)節(jié)理論（PMT）提出了三種策略,，幫助父母最大化媒體使用的益處并最小化相關(guān)風(fēng)險：限制性調(diào)節(jié)、積極調(diào)節(jié)和共同使用,。聯(lián)合媒體參與（JME）框架強調(diào)父母和孩子之間共同參與的必要性,。然而，父母調(diào)節(jié)往往依賴于父母的時間,、知識和經(jīng)驗,。一方面，父母需要為孩子選擇合適的視頻內(nèi)容,，并了解為青少年量身定制的各種設(shè)置,，這既繁瑣又耗時且勞動密集。另一方面,，由于知識和經(jīng)驗的局限,，父母為孩子過濾的內(nèi)容可能仍會暴露于風(fēng)險之中，且可能與青少年的興趣不一致,。多模態(tài)大語言模型（MLLMs）的發(fā)展為上述問題提供了一個有前景的解決方案,。首先，MLLMs在解析和理解文本,、視頻以及其他形式的媒體方面表現(xiàn)出強大的能力,。其次，MLLMs通過指令學(xué)習(xí),、上下文學(xué)習(xí)和少量樣本學(xué)習(xí)表現(xiàn)出顯著的交互能力,。最后，MLLMs易于使用,，無需額外的訓(xùn)練要求,，使其能夠輕松地在現(xiàn)實場景中部署。

然而,，基于MLLMs設(shè)計一個支持JME的視頻審查系統(tǒng)面臨著多個挑戰(zhàn),。首先，青少年及其父母對該系統(tǒng)的期望和需求尚不明確,。例如,，如何在確保父母參與的同時減輕他們的負(fù)擔(dān)，MLLMs在這一過程中應(yīng)扮演什么角色,，以及如何有效促進系統(tǒng),、父母和孩子之間的合作，所有這些問題都阻礙了該系統(tǒng)的設(shè)計,。其次,，協(xié)助青少年和父母審查視頻內(nèi)容可能涉及多個潛在任務(wù),，如有效過濾風(fēng)險內(nèi)容,、識別感興趣的內(nèi)容以及促進青少年和父母之間的合作,。利用大語言模型共同實現(xiàn)這些目標(biāo)是復(fù)雜的。最后,，為了驗證該系統(tǒng)的有效性,，有必要招募一些父母和青少年配對，在真實場景中使用并評估該系統(tǒng),。一些度量標(biāo)準(zhǔn),，如選定視頻的適宜性，往往依賴于個性化判斷和具體情境,，因此很難評估,，這也增加了研究的復(fù)雜性。

考慮到這些問題和挑戰(zhàn),，我們的目標(biāo)是設(shè)計一個自動化的視頻審查系統(tǒng),，以促進父母和孩子在聯(lián)合媒體參與（JME）中共同篩選不適當(dāng)內(nèi)容并選擇合適內(nèi)容。本研究的對象為8-15歲之間的青少年,。首先,，通過問卷和半結(jié)構(gòu)化訪談，我們探索了他們對視頻審查系統(tǒng)的需求和期望,，并確定了五個設(shè)計目標(biāo),。基于這些目標(biāo),，我們設(shè)計了YouthCare,，一個個性化的協(xié)作視頻審查系統(tǒng)，旨在幫助父母和孩子在聯(lián)合媒體參與中共同篩選不適當(dāng)內(nèi)容并選擇合適內(nèi)容,。我們招募了10對父母和孩子來使用并評估該系統(tǒng),。結(jié)果表明，YouthCare在滿足用戶需求方面表現(xiàn)良好,，且用戶對其接受度高,，愿意繼續(xù)使用?；谶@些發(fā)現(xiàn),，我們?yōu)槲磥碛H子協(xié)作JME系統(tǒng)的設(shè)計提供了新的見解。

用戶研究

為了指導(dǎo)我們的設(shè)計過程,，我們進行了一項形成性研究,，以調(diào)查當(dāng)前父母在青少年媒體使用中的參與情況。我們最終選擇了11對親子組合參與研究,，并得到了以下五個設(shè)計目標(biāo)：

D1：從風(fēng)險和適宜性兩個角度進行視頻審核,；

D2：通過中介支持協(xié)作配置個性化審核需求,；

D3：支持直接和間接兩種方式配置個性化審核需求；

D4：提供即時和長期的審核需求解釋性反饋,；

D5：確保用戶控制權(quán),。

模型構(gòu)造

圖1 YouthCare系統(tǒng)設(shè)計

根據(jù)設(shè)計目標(biāo)，我們開發(fā)了YouthCare,，這是一款自動化的視頻審查系統(tǒng),，旨在幫助父母和孩子在聯(lián)合媒體參與（JME）中共同過濾和選擇視頻內(nèi)容。通過利用多模態(tài)大語言模型（MLLMs）,，YouthCare能夠促進用戶配置和視頻內(nèi)容的共同理解,。

① 1協(xié)作配置模塊

我們設(shè)計了協(xié)作配置模塊，以促進個性化視頻審查需求的協(xié)作配置,。該模塊支持直接手動配置,，如自定義視頻關(guān)鍵詞和分配權(quán)重，也支持間接自動配置,，通過用戶的視頻選擇推斷出偏好的特征,。然后，它通過聊天機器人界面幫助父母和青少年建立“共同偏好”,。

② 個性化視頻審查模塊

我們基于MLLMs設(shè)計了個性化視頻審查模塊,，以實現(xiàn)YouthCare中的可解釋性審查。該模塊集成了多模態(tài)信息融合提取視頻特征,，并利用 MLLM 分析特征以評估視頻的風(fēng)險性和適宜性,，同時生成相應(yīng)的解釋。為確保審查結(jié)果的個性化和標(biāo)準(zhǔn)化,。我們定義了兩類視頻審查指南：基于“共同偏好”的個性化指南和基于權(quán)威標(biāo)準(zhǔn)政策的通用指南,。前者通過匹配用戶偏好與視頻特征提供個性化解釋，后者則依據(jù)權(quán)威標(biāo)準(zhǔn)確保審查的規(guī)范性和全面性,。

③ 反饋報告模塊 

根據(jù)形成性研究,，父母和青少年都關(guān)注審查解釋，而父母尤其關(guān)心關(guān)于青少年使用情況的總結(jié),。因此,，我們設(shè)計了反饋報告模塊，以根據(jù)用戶的審查需求提供及時和長期的解釋性反,。該模塊提供了全面的視頻審查理解,，包括對當(dāng)前視頻的及時反饋和對特定時間段的長期總結(jié)。

評估與討論

此次評估表明,，YouthCare的各個模塊均成功實現(xiàn)了設(shè)計目標(biāo)：個性化配置滿足了用戶多樣化需求,；協(xié)作式配置促進了家長與青少年的溝通；視頻審查模塊精準(zhǔn)實現(xiàn)了內(nèi)容過濾與管理,；反饋與總結(jié)功能優(yōu)化了用戶體驗,。同時,，YouthCare支持直觀的關(guān)鍵詞和偏好調(diào)整，使家長和青少年能夠靈活管理視頻內(nèi)容,?；贚LM的系統(tǒng)顯著提升了審查效率，但也帶來了過度審查和家長依賴性增加等風(fēng)險,；聊天機器人通過支持個性化需求表達和沖突緩解,，提高了親子協(xié)作效率,，但可能因角色差異引發(fā)權(quán)力失衡,，并減少直接互動機會。此外,，YouthCare的反饋機制雖改善了親子關(guān)系,，卻也存在隱私泄露和家庭沖突增加的風(fēng)險?？傮w而言,，YouthCare在青少年視頻內(nèi)容審查和親子互動方面成效顯著，為家庭提供了有效的數(shù)字內(nèi)容管理系統(tǒng),，但未來需在提升系統(tǒng)功能的同時,，平衡技術(shù)介入與親子直接互動，以更好地支持家庭協(xié)作與溝通,。

小結(jié)

在本研究中,，我們旨在通過設(shè)計YouthCare這一個性化協(xié)作視頻審查系統(tǒng)，解決傳統(tǒng)親子聯(lián)合媒體互動（JME）機制的局限性,，從而促進JME中更高效且更有效的視頻審查,。通過形成性研究，我們識別了父母和青少年在個性化和協(xié)作方面的需求和期望,，這為YouthCare的設(shè)計提供了依據(jù),，以支持視頻內(nèi)容的過濾和選擇。通過對10對親子組合的評估,，驗證了YouthCare在增強內(nèi)容控制和促進協(xié)作方面的有效性,，同時也發(fā)現(xiàn)了需要改進的地方，比如解決父母和青少年需求差異,、提高反饋過程的效率和效果等,。這些發(fā)現(xiàn)表明,，未來的親子聯(lián)合媒體互動系統(tǒng)可以考慮如何平衡人類與AI之間的控制邊界,、間接與直接溝通方式以及主導(dǎo)權(quán)與隱私之間的關(guān)系。

作者信息

如果您對本文內(nèi)容感興趣的話,，可以與作者聯(lián)系：

趙雯欣 復(fù)旦大學(xué)計算機學(xué)院協(xié)同信息與系統(tǒng)實驗室 博士研究生

研究方向：人智協(xié)同,、推薦系統(tǒng),、人機交互

聯(lián)系方式：[email protected]

實驗室相關(guān)論文

[1] Yubo Shu, Haonan Zhang, Hansu Gu, Peng Zhang, Tun Lu, Dongsheng Li, and Ning Gu. RAH! RecSys–Assistant–Human: A Human-Centered Recommendation Framework With LLM Agents. IEEE Transactions on Computational Social Systems (2024).

[2] Baoxi Liu, Peng Zhang, Yubo Shu, Zhengqing Guan, Tun Lu, Hansu Gu, and Ning Gu. 2022. Building a Personalized Model for Social Media Textual Content Censorship. Proceedings of the ACM on Human-Computer Interaction 6, CSCW2, Article 499 (2022), 31 pages.

[3] Yaqiong Li, Peng Zhang, Hansu Gu, Tun Lu, Siyuan Qiao, Yubo Shu, Yiyang Shao, Ning Gu. DeMod: A Holistic Tool with Explainable Detection and Personalized Modification for Toxicity Censorship. In Proceedings of the ACM on Human-Computer Interaction, 2025.

如果您對我們實驗室的相關(guān)工作感興趣，歡迎訪問我們的網(wǎng)站：

協(xié)同信息與系統(tǒng)（CISL）實驗室

實驗室網(wǎng)站主頁：https://cscw.fudan.edu.cn/

實驗室Github主頁：https://github.com/FudanCISL