日前,，實驗室博士生趙雯欣作為第一作者的論文“YouthCare: Building a Personalized Collaborative Video Censorship Tool to Support Parent-Child Joint Media Engagement”被 CCF A類會議The ACM CHI Conference on Human Factors in Computing Systems (CHI) 會議錄用,。該論文是復旦計算機學院與社會發(fā)展與公共政策學院社會工作學系跨學科研究團隊AI4SS（AI for Social Science）的最新研究成果。

該研究通過多模態(tài)大模型（MLLMs）與社會科學理論的深度融合,，構建了面向親子數(shù)字生態(tài)的智能協(xié)作系統(tǒng),。研究以發(fā)展心理學中的父母調(diào)節(jié)理論（Parental Mediation Theory）為認知基礎，采用以人為中心的參與式設計方法,，開發(fā)出面向親子場景的YouthCare智能協(xié)作系統(tǒng),。具體來說，論文探討了在線視頻對青少年的潛在負面影響,，并深入分析了家長與青少年在親子聯(lián)合媒體參與（Parent-Child Joint Media Engagement, JME）過程中的需求與挑戰(zhàn),。針對于現(xiàn)有親子聯(lián)合媒體參與機制高度依賴家長的時間、知識和經(jīng)驗等問題,，論文設計了一種個性化協(xié)作視頻審核系統(tǒng)YouthCare,，充分利用多模態(tài)大模型的強大能力，結(jié)合視頻內(nèi)容解析和自然語言處理，旨在幫助家長與青少年高效過濾不適宜內(nèi)容并選擇適宜內(nèi)容,。該系統(tǒng)可延伸至家庭數(shù)字教養(yǎng)實踐,、青少年網(wǎng)絡保護等社會科學應用場景，為AI技術賦能人文社科研究提供了可擴展的跨學科范式,。

會議簡介

ACM CHI 2025 (The ACM Conference on Human Factors in Computing Systems)是國際公認的人機交互頂級學術會議,，其在學術界和工業(yè)界享有極高聲譽，是中國計算機學會推薦的A類國際學術會議,。與其它計算機科學會議相比,，CHI規(guī)模龐大，更加注重人與技術之間的互動,、探索創(chuàng)新的交互方式,、新興技術在真實世界的應用、以及技術使用中的社會影響與倫理因素,。今年CHI2025會議錄用結(jié)果公布,，本次會議共收到5014份完整投稿，最終錄用1249篇,，錄用率為24.9%,。該會議計劃于2025年4月26日至5月1日在日本橫濱召開。

論文簡介

YouthCare：支持父母和孩子聯(lián)合媒體參與的個性化協(xié)作視頻審查系統(tǒng)

論文鏈接：https://arxiv.org/abs/2503.02151

隨著數(shù)字時代的進步,，越來越多的青少年開始頻繁使用互聯(lián)網(wǎng),。目前，全球互聯(lián)網(wǎng)用戶中約三分之一是青少年,，在英國,、加拿大等國家，12-14歲青少年使用互聯(lián)網(wǎng)的比例超過了95%,，在美國超過96% ,。近五年來，中國青少年網(wǎng)民的規(guī)模從1.69億增長到1.93億,，青少年互聯(lián)網(wǎng)普及率從93.7%增長到97.2%,，其中小學生互聯(lián)網(wǎng)普及率都已達到95.1%。在這種背景下,，視頻平臺因其豐富的資源內(nèi)容而深受青少年的喜愛,，成為青少年在線學習和娛樂主要平臺。然而,，現(xiàn)有的視頻平臺往往缺乏針對青少年的設計考慮，平臺內(nèi)容與該年齡群體的特征存在顯著不匹配,。因此,，青少年經(jīng)常接觸到不健康或不適宜的視頻內(nèi)容，如暴力、色情和犯罪,，這嚴重影響了他們的在線體驗,，甚至對身心健康造成影響。根據(jù)皮亞杰的認知發(fā)展理論,，青少年,，特別是處于具體運算階段（7-11歲）和形式運算階段（11歲及以上）的青少年，在自我認知,、抽象思維和經(jīng)驗性推理方面存在一定的局限性,。對于這些階段的青少年來說，父母的參與對其成長和發(fā)展至關重要,。這種參與不僅有助于保護青少年免受潛在危害,，還能促進代際溝通，增強相互理解與信任,，并培養(yǎng)積極的家庭氛圍,。

在此背景下，現(xiàn)有的研究和視頻平臺已引入了各種父母調(diào)節(jié)機制,，以減輕在線視頻環(huán)境對青少年的負面影響,。例如，父母調(diào)節(jié)理論（PMT）提出了三種策略,，幫助父母最大化媒體使用的益處并最小化相關風險：限制性調(diào)節(jié),、積極調(diào)節(jié)和共同使用。聯(lián)合媒體參與（JME）框架強調(diào)父母和孩子之間共同參與的必要性,。然而,，父母調(diào)節(jié)往往依賴于父母的時間、知識和經(jīng)驗,。一方面,，父母需要為孩子選擇合適的視頻內(nèi)容，并了解為青少年量身定制的各種設置,，這既繁瑣又耗時且勞動密集,。另一方面，由于知識和經(jīng)驗的局限,，父母為孩子過濾的內(nèi)容可能仍會暴露于風險之中,，且可能與青少年的興趣不一致。多模態(tài)大語言模型（MLLMs）的發(fā)展為上述問題提供了一個有前景的解決方案,。首先,，MLLMs在解析和理解文本、視頻以及其他形式的媒體方面表現(xiàn)出強大的能力,。其次,，MLLMs通過指令學習,、上下文學習和少量樣本學習表現(xiàn)出顯著的交互能力。最后,，MLLMs易于使用,，無需額外的訓練要求，使其能夠輕松地在現(xiàn)實場景中部署,。

然而,，基于MLLMs設計一個支持JME的視頻審查系統(tǒng)面臨著多個挑戰(zhàn)。首先,，青少年及其父母對該系統(tǒng)的期望和需求尚不明確,。例如，如何在確保父母參與的同時減輕他們的負擔,，MLLMs在這一過程中應扮演什么角色,，以及如何有效促進系統(tǒng)、父母和孩子之間的合作,，所有這些問題都阻礙了該系統(tǒng)的設計,。其次，協(xié)助青少年和父母審查視頻內(nèi)容可能涉及多個潛在任務,，如有效過濾風險內(nèi)容,、識別感興趣的內(nèi)容以及促進青少年和父母之間的合作。利用大語言模型共同實現(xiàn)這些目標是復雜的,。最后,，為了驗證該系統(tǒng)的有效性，有必要招募一些父母和青少年配對,，在真實場景中使用并評估該系統(tǒng),。一些度量標準，如選定視頻的適宜性,，往往依賴于個性化判斷和具體情境,，因此很難評估，這也增加了研究的復雜性,。

考慮到這些問題和挑戰(zhàn),，我們的目標是設計一個自動化的視頻審查系統(tǒng)，以促進父母和孩子在聯(lián)合媒體參與（JME）中共同篩選不適當內(nèi)容并選擇合適內(nèi)容,。本研究的對象為8-15歲之間的青少年,。首先，通過問卷和半結(jié)構化訪談,，我們探索了他們對視頻審查系統(tǒng)的需求和期望,，并確定了五個設計目標?；谶@些目標,，我們設計了YouthCare,，一個個性化的協(xié)作視頻審查系統(tǒng)，旨在幫助父母和孩子在聯(lián)合媒體參與中共同篩選不適當內(nèi)容并選擇合適內(nèi)容,。我們招募了10對父母和孩子來使用并評估該系統(tǒng)。結(jié)果表明,，YouthCare在滿足用戶需求方面表現(xiàn)良好,，且用戶對其接受度高，愿意繼續(xù)使用,?；谶@些發(fā)現(xiàn)，我們?yōu)槲磥碛H子協(xié)作JME系統(tǒng)的設計提供了新的見解,。

用戶研究

為了指導我們的設計過程,，我們進行了一項形成性研究，以調(diào)查當前父母在青少年媒體使用中的參與情況,。我們最終選擇了11對親子組合參與研究,，并得到了以下五個設計目標：

D1：從風險和適宜性兩個角度進行視頻審核；

D2：通過中介支持協(xié)作配置個性化審核需求,；

D3：支持直接和間接兩種方式配置個性化審核需求,；

D4：提供即時和長期的審核需求解釋性反饋；

D5：確保用戶控制權,。

模型構造

圖1 YouthCare系統(tǒng)設計

根據(jù)設計目標,，我們開發(fā)了YouthCare，這是一款自動化的視頻審查系統(tǒng),，旨在幫助父母和孩子在聯(lián)合媒體參與（JME）中共同過濾和選擇視頻內(nèi)容,。通過利用多模態(tài)大語言模型（MLLMs），YouthCare能夠促進用戶配置和視頻內(nèi)容的共同理解,。

① 1協(xié)作配置模塊

我們設計了協(xié)作配置模塊,，以促進個性化視頻審查需求的協(xié)作配置。該模塊支持直接手動配置,，如自定義視頻關鍵詞和分配權重,，也支持間接自動配置，通過用戶的視頻選擇推斷出偏好的特征,。然后,，它通過聊天機器人界面幫助父母和青少年建立“共同偏好”。

② 個性化視頻審查模塊

我們基于MLLMs設計了個性化視頻審查模塊,，以實現(xiàn)YouthCare中的可解釋性審查,。該模塊集成了多模態(tài)信息融合提取視頻特征，并利用 MLLM 分析特征以評估視頻的風險性和適宜性,，同時生成相應的解釋,。為確保審查結(jié)果的個性化和標準化,。我們定義了兩類視頻審查指南：基于“共同偏好”的個性化指南和基于權威標準政策的通用指南。前者通過匹配用戶偏好與視頻特征提供個性化解釋,，后者則依據(jù)權威標準確保審查的規(guī)范性和全面性,。

③ 反饋報告模塊 

根據(jù)形成性研究，父母和青少年都關注審查解釋,，而父母尤其關心關于青少年使用情況的總結(jié),。因此，我們設計了反饋報告模塊,，以根據(jù)用戶的審查需求提供及時和長期的解釋性反,。該模塊提供了全面的視頻審查理解，包括對當前視頻的及時反饋和對特定時間段的長期總結(jié),。

評估與討論

此次評估表明,，YouthCare的各個模塊均成功實現(xiàn)了設計目標：個性化配置滿足了用戶多樣化需求；協(xié)作式配置促進了家長與青少年的溝通,；視頻審查模塊精準實現(xiàn)了內(nèi)容過濾與管理,；反饋與總結(jié)功能優(yōu)化了用戶體驗。同時,，YouthCare支持直觀的關鍵詞和偏好調(diào)整,，使家長和青少年能夠靈活管理視頻內(nèi)容?；贚LM的系統(tǒng)顯著提升了審查效率,，但也帶來了過度審查和家長依賴性增加等風險；聊天機器人通過支持個性化需求表達和沖突緩解,，提高了親子協(xié)作效率,，但可能因角色差異引發(fā)權力失衡，并減少直接互動機會,。此外,，YouthCare的反饋機制雖改善了親子關系，卻也存在隱私泄露和家庭沖突增加的風險,?？傮w而言，YouthCare在青少年視頻內(nèi)容審查和親子互動方面成效顯著,，為家庭提供了有效的數(shù)字內(nèi)容管理系統(tǒng),，但未來需在提升系統(tǒng)功能的同時，平衡技術介入與親子直接互動,，以更好地支持家庭協(xié)作與溝通,。

小結(jié)

在本研究中，我們旨在通過設計YouthCare這一個性化協(xié)作視頻審查系統(tǒng),，解決傳統(tǒng)親子聯(lián)合媒體互動（JME）機制的局限性,，從而促進JME中更高效且更有效的視頻審查,。通過形成性研究，我們識別了父母和青少年在個性化和協(xié)作方面的需求和期望,，這為YouthCare的設計提供了依據(jù),，以支持視頻內(nèi)容的過濾和選擇。通過對10對親子組合的評估,，驗證了YouthCare在增強內(nèi)容控制和促進協(xié)作方面的有效性,，同時也發(fā)現(xiàn)了需要改進的地方，比如解決父母和青少年需求差異,、提高反饋過程的效率和效果等。這些發(fā)現(xiàn)表明,，未來的親子聯(lián)合媒體互動系統(tǒng)可以考慮如何平衡人類與AI之間的控制邊界,、間接與直接溝通方式以及主導權與隱私之間的關系。

作者信息

如果您對本文內(nèi)容感興趣的話,，可以與作者聯(lián)系：

趙雯欣 復旦大學計算機學院協(xié)同信息與系統(tǒng)實驗室 博士研究生

研究方向：人智協(xié)同,、推薦系統(tǒng)、人機交互

聯(lián)系方式：[email protected]

實驗室相關論文

[1] Yubo Shu, Haonan Zhang, Hansu Gu, Peng Zhang, Tun Lu, Dongsheng Li, and Ning Gu. RAH! RecSys–Assistant–Human: A Human-Centered Recommendation Framework With LLM Agents. IEEE Transactions on Computational Social Systems (2024).

[2] Baoxi Liu, Peng Zhang, Yubo Shu, Zhengqing Guan, Tun Lu, Hansu Gu, and Ning Gu. 2022. Building a Personalized Model for Social Media Textual Content Censorship. Proceedings of the ACM on Human-Computer Interaction 6, CSCW2, Article 499 (2022), 31 pages.

[3] Yaqiong Li, Peng Zhang, Hansu Gu, Tun Lu, Siyuan Qiao, Yubo Shu, Yiyang Shao, Ning Gu. DeMod: A Holistic Tool with Explainable Detection and Personalized Modification for Toxicity Censorship. In Proceedings of the ACM on Human-Computer Interaction, 2025.

如果您對我們實驗室的相關工作感興趣,，歡迎訪問我們的網(wǎng)站：

協(xié)同信息與系統(tǒng)（CISL）實驗室

實驗室網(wǎng)站主頁：https://cscw.fudan.edu.cn/

實驗室Github主頁：https://github.com/FudanCISL