近日，教育學(xué)院研究生團(tuán)隊(duì)的作品《智能向善，以人為本——教育領(lǐng)域生成式人工智能應(yīng)用的倫理風(fēng)險(xiǎn)治理研究》在我校第十一屆“挑戰(zhàn)杯”大學(xué)生課外學(xué)術(shù)科技作品競(jìng)賽決賽中脫穎而出。

人工智能在全球范圍內(nèi)迅速普及和深入應(yīng)用，伴隨科技價(jià)值產(chǎn)生的同時(shí)，也帶來(lái)了如隱私泄露、算法偏見(jiàn)、學(xué)術(shù)誠(chéng)信挑戰(zhàn)等倫理風(fēng)險(xiǎn)。在2025年全國(guó)兩會(huì)熱議的“AI賦能教育”背景下，全國(guó)政協(xié)委員姜耀東關(guān)于“引導(dǎo)學(xué)生合理、規(guī)范使用AI”的倡議引發(fā)了社會(huì)廣泛共鳴。我校學(xué)生團(tuán)隊(duì)以教育領(lǐng)域生成式人工智能應(yīng)用的倫理風(fēng)險(xiǎn)展開(kāi)研究，不僅回應(yīng)了兩會(huì)代表對(duì)AI教育倫理的關(guān)切，更以系統(tǒng)性的方案為數(shù)字時(shí)代的育人難題提供了新思路。

本項(xiàng)目由柳晨晨、王佑鎂、章園園老師共同指導(dǎo)，23級(jí)教技專(zhuān)碩王欣穎擔(dān)任項(xiàng)目負(fù)責(zé)人，團(tuán)隊(duì)成員還包括碩士研究生倚楊瑩、房斯萌、黃芳琴、利朵、陳倩，以及本科生陳秀雯。在導(dǎo)師指導(dǎo)下，項(xiàng)目通過(guò)理論構(gòu)建、案例分析、問(wèn)卷調(diào)查等方法，設(shè)計(jì)并開(kāi)發(fā)了創(chuàng)新性的人工智能倫理風(fēng)險(xiǎn)識(shí)別與評(píng)估工具與倫理治理學(xué)習(xí)平臺(tái)Ethical-GPT，不僅在理論上豐富了人工智能倫理治理框架，也在實(shí)踐中為政策制定和教育管理提供了強(qiáng)有力的支持。

本項(xiàng)目圍繞“問(wèn)題識(shí)別—理論構(gòu)建—案例分析—工具開(kāi)發(fā)—政策優(yōu)化”五個(gè)關(guān)鍵環(huán)節(jié)展開(kāi)。首先，團(tuán)隊(duì)成員對(duì)當(dāng)前人工智能在教育領(lǐng)域的應(yīng)用趨勢(shì)展開(kāi)分析，并指出其可能帶來(lái)的倫理挑戰(zhàn)。其次，基于風(fēng)險(xiǎn)社會(huì)理論，構(gòu)建適用于教育場(chǎng)景的人工智能倫理風(fēng)險(xiǎn)分類(lèi)框架，為治理策略提供理論支撐。然后，選取國(guó)內(nèi)外典型人工智能教育治理案例進(jìn)行分析，借鑒國(guó)際經(jīng)驗(yàn)，并結(jié)合國(guó)內(nèi)實(shí)際情況總結(jié)有效的治理模式。在此基礎(chǔ)上，開(kāi)發(fā)人工智能倫理風(fēng)險(xiǎn)評(píng)估工具，形成可操作的量化評(píng)估體系。最后，通過(guò)調(diào)查院校、教師和學(xué)生的實(shí)踐情況，提出多智能體倫理治理改進(jìn)方案，確保人工智能技術(shù)能夠在教育領(lǐng)域得到可持續(xù)且負(fù)責(zé)任的應(yīng)用。

目前，項(xiàng)目成員的研究成果已在《電化教育研究》《現(xiàn)代遠(yuǎn)距離教育》等多家核心期刊發(fā)表，在多個(gè)學(xué)術(shù)會(huì)議上進(jìn)行分享交流。同時(shí)，團(tuán)隊(duì)成員將深入中小學(xué)校持續(xù)開(kāi)展調(diào)研和實(shí)踐應(yīng)用，不斷完善項(xiàng)目實(shí)踐價(jià)值。

善治人工智能，守護(hù)教育初心。下一步，項(xiàng)目團(tuán)隊(duì)將持續(xù)精進(jìn)作品，深化研究成果，期待他們?cè)谑≠愔性賱?chuàng)佳績(jī)，向國(guó)賽奮力進(jìn)發(fā)！