南都訊記者呂虹發(fā)自北京近日,南都記者從中國民辦教育協(xié)會獲悉,該協(xié)會攜手百度、騰訊、科大訊飛等10家人工智能領(lǐng)域頭部企業(yè),聯(lián)合簽署了《智能體賦能學(xué)生全面成長公約》(以下簡稱《公約》),為教育智能體的發(fā)展劃定了清晰的邊界。
當(dāng)前,帶有“主體性”特征的教育智能體不但在倫理身份、互動方式、學(xué)習(xí)方式及價值觀念等層面形成沖擊,更使教育實踐面臨被AI技術(shù)操控取代的風(fēng)險,迫切需要探尋智能體的倫理邊界。
在這一背景下,《公約》提出,教育智能體的發(fā)展應(yīng)有效防范違背教育本質(zhì)的功利化傾向,堅決杜絕傳播錯誤價值觀和不良信息,防止機械重復(fù)刷題,避免加重學(xué)生學(xué)業(yè)負擔(dān)、限制學(xué)生想象空間、惰化學(xué)生思維。
《公約》強調(diào),教育智能體要嚴格遵守《未成年人保護法》《網(wǎng)絡(luò)安全法》《個人信息保護法》等相關(guān)法律法規(guī)及政策要求,對涉及未成年人的,應(yīng)嚴格依法落實數(shù)據(jù)安全及隱私保護機制。
《公約》倡議,相關(guān)人工智能企業(yè)應(yīng)強化與學(xué)校、家庭的協(xié)同育人,擴大資源普惠,不制造惡性競爭,不傳播教育焦慮,推動在全社會樹立科學(xué)的人才觀、成才觀、教育觀。
針對《公約》的出臺意義,北京師范大學(xué)李玉順教授表示,《公約》出臺恰逢其時,將技術(shù)優(yōu)勢轉(zhuǎn)化為育人效能,將碎片化探索升華為系統(tǒng)性框架,使人工智能與教育融合邁向倫理自覺與價值引領(lǐng)新階段。
“人工智能教育,尤其是智能體融入教育過程中,必須確保教育性、科學(xué)性、安全性三大原則?!闭劶啊豆s》所倡導(dǎo)的AI教育精神,北京航空航天大學(xué)熊璋教授特別強調(diào)了“安全至上”原則。他指出,需圍繞AI教育特有的自主性、交互性與學(xué)習(xí)特性,構(gòu)建覆蓋技術(shù)、倫理、數(shù)據(jù)、心理等維度的防護體系。在規(guī)劃與設(shè)計之初,就必須秉承“安全至上”的原則,包括不傷害學(xué)習(xí)者、不誤導(dǎo)學(xué)習(xí)者、不泄露學(xué)習(xí)者隱私的全方位安全?!皩W(xué)習(xí)者異常行為的預(yù)警、報告、疏導(dǎo)也是安全至上的一個側(cè)面?!?/p>
值得注意的是,《公約》適用于所有可能面向中小學(xué)生提供智能體產(chǎn)品或服務(wù)的企業(yè)。涉及的產(chǎn)品和服務(wù)包括但不限于人工智能大模型、自適應(yīng)學(xué)習(xí)系統(tǒng)、虛擬教師等軟件,智能學(xué)習(xí)機、學(xué)練機、學(xué)習(xí)教具、可穿戴設(shè)備等硬件,以及基于上述軟硬件的課程、教學(xué)、測評、數(shù)據(jù)分析等衍生服務(wù),覆蓋產(chǎn)品設(shè)計、算法研發(fā)、模型訓(xùn)練、運營服務(wù)等全生命周期。
延伸閱讀:與 在外省結(jié)婚生子落網(wǎng)前是村委會會計丨紅:星!調(diào)查 的相關(guān)文章