410
2024-12-02 16:10:57（已編輯）
CCF Young Computer Scientists & Engineers Forum Guangzhou
CCF YOCSEF廣州
AGI初現(xiàn)曙光：安全進化的路徑與抉擇
編號：
時間：2024年12月07日（星期六）13:30 – 18:00
會場：廣東省廣州市廣東外語外貿(mào)大學大學城校區(qū)第一會議室
2024年8月15日,，媒體爆出馬斯克旗下xAI公司的大語言模型Grok存在嚴重的數(shù)據(jù)泄露和模型濫用問題,，迅速引發(fā)了全球?qū)?/span>AI安全的高度警覺。這一事件再次敲響警鐘,，警示我們在AGI（通用人工智能）技術(shù)飛速發(fā)展的背后,，安全隱患正悄然浮現(xiàn)。AGI的自適應(yīng)性和多功能性,，雖然為技術(shù)進步帶來了巨大潛力,，但也帶來了數(shù)據(jù)隱私泄露、惡意攻擊等嚴峻挑戰(zhàn),。
如何在AGI技術(shù)初現(xiàn)曙光的關(guān)鍵時刻,，審慎評估潛在的安全風險，并采取有效的防護措施,，已成為全球科技界面臨的緊迫課題,。本次會議將聚焦AGI安全的挑戰(zhàn)與應(yīng)對策略，探索技術(shù)發(fā)展與安全防護如何協(xié)同進化,，以實現(xiàn)創(chuàng)新與安全的平衡,。
引導(dǎo)報告嘉賓：
齊佳音 廣州大學 教授、博導(dǎo)
盧 偉 中山大學 副院長,、教授、博導(dǎo)
楊曉偉 華南理工大學 教授,、博導(dǎo)
花忠云 哈爾濱工業(yè)大學（深圳） 教授,、博導(dǎo)
論壇思辨嘉賓：
毛明志 中山大學 副教授、CCF杰出會員
趙搏文 西安電子科技大學 副教授
李吉祥 奇安信
符春輝 安恒信息
論壇執(zhí)行主席：
姜思羽 廣東外語外貿(mào)大學 副教授 YOCSEF 廣州 24-25學術(shù)秘書
蘇 申 廣州大學 教授 YOCSEF 廣州 24-25副主席
主辦單位： 中國計算機學會（CCF）
組織結(jié)構(gòu)： CCF YOCSEF廣州學術(shù)委員會
支持單位： 廣東外語外貿(mào)大學,、廣州大學,、網(wǎng)絡(luò)空間安全科學學報
贊助單位： 杭州安恒信息技術(shù)股份有限公司
論壇議程
|
13:30 – 14:00 |
簽到 |
主持人 |
|
14:00 – 14:20 |
論壇開場介紹 |
姜思羽 |
|
14:20 – 15:20 |
第一階段：引導(dǎo)報告 |
蘇申 |
|
引導(dǎo)發(fā)言1：齊佳音 廣州大學 教授、博導(dǎo) 題目：大模型保險箍：大模型防護欄的一種模式 |
||
|
引導(dǎo)發(fā)言2：盧偉 中山大學 副院長,、教授,、博導(dǎo) 題目：智能媒體取證與防御 |
||
|
引導(dǎo)發(fā)言3：楊曉偉 華南理工大學 教授、博導(dǎo) 題目：可解釋跨域遷移學習算法初探--從統(tǒng)計學習理論的基本假設(shè)說起 |
||
|
引導(dǎo)發(fā)言4：花忠云 哈爾濱工業(yè)大學（深圳） 教授,、博導(dǎo) 題目：IBD-PSC: 基于參數(shù)縮放一致性的輸入級后門檢測 |
||
|
15:20 – 15:50 |
茶歇 |
|
|
15:50 – 17:50 |
第二階段：觀點思辨 |
姜思羽 |
|
思辨點1：尚未撥開迷霧的AGI,，是否已經(jīng)到了考慮其安全的時候？ 思辨點2：AGI帶來哪些新的安全挑戰(zhàn),，怎么解決,？ 思辨點3：“通用”人工智能了，“通用”安全是否也有可能,？ |
||
|
15:50 – 18:00 |
論壇總結(jié) |
蘇申 |
嘉賓介紹
引導(dǎo)報告嘉賓：
齊佳音 廣州大學網(wǎng)絡(luò)空間安全學院教授,，網(wǎng)絡(luò)空間安全治理創(chuàng)新研究院執(zhí)行院長，博士生導(dǎo)師,，國家級人才,，享受國務(wù)院政府特殊津貼,，粵語語料庫建設(shè)與大模型評測重點實驗室主任。主持了包括國家社會科學基金重大項目,、國家自然科學基金重大,、重點項目（課題）在內(nèi)的多項國家級重大重點項目。目前正在主持承擔國家自然科學基金重大項目課題“醫(yī)聯(lián)網(wǎng)環(huán)境下的隱私數(shù)據(jù)保護與醫(yī)源性風險決策”（72293583）,。
報告題目：大模型保險箍：大模型防護欄的一種模式,。
盧偉 中山大學計算機學院教授、博士生導(dǎo)師,，中山大學人工智能研究院副院長,，中國圖象圖形學學會數(shù)字媒體取證與安全專委會委員、中國人工智能學會人工智能與安全專委會委員,。主要研究方向為人工智能安全與對抗,、數(shù)字媒體內(nèi)容安全。承擔國家自然科學基金重點項目,、國家重點研發(fā)計劃課題,、廣東省重點領(lǐng)域研發(fā)計劃、廣州市科學研究計劃重點項目等,，成果主要包括數(shù)字媒體構(gòu)造與取證技術(shù),、數(shù)字媒體隱私保護與對抗技術(shù)、跨媒體隱蔽通信技術(shù)等,，相關(guān)成果發(fā)表在IEEE TIFS,、TDSC、TPAMI,、TNNLS,、TCYB、TPDS,、TCSVT,、ACM MM、AAAI等國際主流期刊和會議上,。
報告題目：智能媒體取證與防御,。
楊曉偉 華南理工大學軟件學院教授、博士生導(dǎo)師,，廣東省軟件工程專委會副主任,，廣州工業(yè)與應(yīng)用數(shù)學學會副理事長，中國人工智能學會機器學習專業(yè)委員會委員,，中國中文信息學會社會媒體處理專業(yè)委員會委員,。研究領(lǐng)域為機器學習、模式識別和軟件工程,。
承擔了“新一代人工智能”科技部重大項目和廣東省科技廳重大項目,，在國內(nèi)外機器學習,、模式識別和軟件工程頂級期刊和國際學術(shù)會議和ICSE上發(fā)表論文160余篇，在科學出版社出版了信息與計算科學叢書-《支持向量機的算法設(shè)計與分析》（楊曉偉,，郝志峰,，2013年）和統(tǒng)計與數(shù)據(jù)科學叢書-《張量學習理論及其應(yīng)用》（楊曉偉，郝志峰,，何麗芳,，2023年），獲得了國家教學成果二等獎,、廣東省科技進步一等獎,、全國商業(yè)科技進步一等獎等多項。指導(dǎo)的多名博士研究生和碩士研究生獲得了國家級青年人才,、廣東省杰青和廣東省青年珠江學者項目資助,。
報告題目：可解釋跨域遷移學習算法初探--從統(tǒng)計學習理論的基本假設(shè)說起。
花忠云 哈爾濱工業(yè)大學（深圳）,，長聘教授,，入選廣東省“珠江人才計劃”和深圳市“海外高層次人才計劃”，長期從事多媒體信息安全,、人工智能安全,、隱私計算等相關(guān)領(lǐng)域研究，在ACM CCS,、ICML,、CVPR、TIFS等會議期刊發(fā)表高水平學術(shù)論文120多篇,。20多篇論文入選ESI 1%高被引論文，入選2022,、2022,、2024年科睿唯安 “高被引科學家”， 2023,、2022和2021年愛思唯爾“中國高被引學者”,。一作者論文入選“2019年中國百篇最具影響國際學術(shù)論文”。論文被國內(nèi)外同行引用逾 8000 次,。擔任IEEE Signal Processing Letters 等期刊Associate Editor,，主持國家自然科學基金面上項目、青年科學基金項目,、廣東省面上項目等科技項目10多項,，參與國家重點研發(fā)等科技項目。
報告題目：IBD-PSC: 基于參數(shù)縮放一致性的輸入級后門檢測,。
論壇思辨嘉賓：
毛明志 工學博士,，中山大學副教授,，碩士生導(dǎo)師。中國計算機學會（CCF）杰出會員,，全國高校計算機教育研究會理事,，CCF教育專委會執(zhí)行委員?！盾浖?dǎo)刊》和《軟件工程與應(yīng)用》編委和審稿人,，廣東省科協(xié)榮譽工作者。長期從事高等學校計算機與軟件工程專業(yè)相關(guān)的教學和研究工作,，獲國家科學技術(shù)進步二等獎,、中山大學卓越服務(wù)獎，多次獲得中國高校計算機教育大會優(yōu)秀論文獎,，指導(dǎo)學生參加學科競賽獲得國家獎(23人次),。主持和參與各類科研項目五十余項，近年在IEEE TETCI,IEEE TII,IEEE TNNLS, Biomimetics, Neurocomputing, AMM, ISBI, AAAI, ICIST, CSEI, CAIIS等國內(nèi)外期刊和會議發(fā)表學術(shù)論文多篇,。
趙搏文 西安電子科技大學 廣州研究院 副教授,，目前是裴慶祺 教授數(shù)算可信融合研究中心核心成員。CCF,、CACR,、CAAI、CIE,、IEEE,、ACM會員。2023 ACM廣州分會“新星獎”,。2020年首位獲得華南理工大學網(wǎng)絡(luò)空間安全博士學位博士,，2020-2021年Singapore Management University Research Scientist。目前主要研究方向為隱私計算,、隱私保護的機器學習/眾包,、數(shù)算可信融合。累計發(fā)表論文40余篇,，其中一作/通訊作者論文24篇,，包括13篇CCF A/B英文論文，論文獲得包括IEEE DSC Best Paper Award,，第十六屆中國密碼學會年會優(yōu)秀論文,，2023年廣東省計算機學會優(yōu)秀論文一等獎等獎項。
李吉祥 奇安信 安全解決方高級專家,，超過15 年信息安全,、網(wǎng)絡(luò)安全、數(shù)據(jù)安全和隱私保護甲乙雙方從業(yè)經(jīng)歷,； 曾擔任世界 500 強外資企業(yè)和民營企業(yè)高級安全工程師,、數(shù)據(jù)安全負責人和信息安全高級經(jīng)理,。
符春輝 現(xiàn)任安恒信息副總裁,超過十年的網(wǎng)絡(luò)安全工作經(jīng)驗,曾在多家網(wǎng)絡(luò)安全及互聯(lián)網(wǎng)公司安全部門任職，對Web安全,、主機安全研究以及相關(guān)安全產(chǎn)品的研發(fā)有豐富的經(jīng)驗,，目前主要研究AI及大模型安全，主導(dǎo)了業(yè)內(nèi)首款針對大模型安全評估的產(chǎn)品-“恒腦智鑒”的研發(fā)工作,。
參會人員：CCF會員,、CCF YOCSEF委員、受邀嘉賓,、媒體人士,、IT領(lǐng)域人士、高校師生等,。
報名方式：參會嘉賓請于11月23日前掃碼加入論壇嘉賓群及參會嘉賓報告碼,。
圖1、論壇嘉賓群 圖2,、參會嘉賓報名碼
報名聯(lián)系人：姜老師 15817191225
