生成式人工智能如何規(guī)范應用健康發(fā)展

7月，國家網信辦聯合國家發(fā)展改革委、教育部、科技部等多部門公布《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行，旨在促進生成式人工智能規(guī)范應用和健康發(fā)展。生成式人工智能技術是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。

技術發(fā)展與教育之需

5G、大數據、人工智能等新一代數字技術對教育產生了深遠的影響，同時也暴露了目前教育存在的一些弊端，如過于注重知識和技能的傳授導致學生個性化需求難以滿足、教育資源分配不均衡、師生互動反饋實效性低等。生成式人工智能作為人工智能的一個重要分支，具有較大潛力解決這些教育問題。通過深度學習和生成模型，為學生提供個性化的學習路徑，根據學生的學習進度和興趣生成相應的內容資源。此外，生成式人工智能還可以協(xié)助教師編制教案、創(chuàng)新教學活動設計、拓寬評估方式等，教育工作者充分利用智能工具，建設更智能、適應性更強的教育系統(tǒng)，實現優(yōu)質教育資源的共享與傳遞，推動教育向更高水平邁進。

從國際視角來看，多國相繼出臺有關生成式人工智能在教育領域應用的政策。如英國發(fā)布《生成式人工智能在教育中的應用》報告，強調學校須提供針對性的教學內容，包括理解生成式人工智能的局限性、可靠性以及潛在偏見，互聯網所呈現的信息如何組織以及網絡安全相關知識等。日本發(fā)布《初等中等教育階段生成式人工智能利用暫行指南》，認為應從有限利用生成式人工智能開始，檢查驗證利用過程的有效場景；學校要培養(yǎng)包含確認信息真?zhèn)卧趦鹊男畔⒗媚芰Γ岣呷斯ぶ悄軙r代所需的素質和能力。聯合國教科文組織發(fā)布《生成式人工智能與教育的未來》報告，對生成式人工智能在教育的影響進行了批判性反思，并呼吁在生成式人工智能整合到教育系統(tǒng)的過程中應加強審查和監(jiān)管，以確保生成式人工智能與教育的融合符合教育目標和人類價值觀?？v觀多國政策內容，在闡述育人的基礎上均強調生成式人工智能在教育中應用的規(guī)范性，即教育相關人員如何規(guī)范化、合理化、安全化應用生成式人工智能。

人機融合與規(guī)范應用

人機融合是人類與計算機或其他智能設備之間的協(xié)同合作，以實現更高效的信息處理、決策和創(chuàng)新。教育領域人機融合過程中，機器需要發(fā)揮計算智能，快速接收、存儲、分析數據信息，并為用戶高效提供解決方案。人類需要發(fā)揮主體特性，進行思考批判、融合創(chuàng)新和情感溝通等，來彌補機器的不足和缺陷。

在這一過程中，規(guī)范應用生成式人工智能對教育管理者、教師和學生都至關重要。教育管理者：關注并跟進技術發(fā)展，有針對性制定明確的規(guī)范與準則，指導生成式人工智能在教育中的應用；應投入相關教育資源，包括基礎設施和專業(yè)培訓，確保教師和學生能夠充分利用生成式人工智能的教學工具和資源；定期審查和評估生成式人工智能生成的教學資源，確保其質量和適用性，避免錯誤或有害內容對學生產生負面影響。教師：主動接受相關培訓，熟悉生成式人工智能的相關應用，掌握其關鍵技術和使用技巧；根據學生的特點和需求，進行個性化的教學活動設計，讓人工智能技術更好地為學生服務；當生成式人工智能提供的內容不完全符合實際需求時，教師應有能力進行干預和糾正。學生：在使用人工智能輔助學習時應保持主動性和自主性，而不是完全依賴于人工智能系統(tǒng)；可以充分利用個性化學習輔導特性，根據自己的學習需求和進度，獲取量身定制的學習材料和練習題目；同時可利用相關應用進行作業(yè)評估和獲取即時反饋。

風險防范與健康發(fā)展

《辦法》的出臺，標志著生成式人工智能服務在我國的應用開始進入規(guī)范化和標準化的階段。因此，不僅要積極探索生成式人工智能技術在教育教學中的應用，同時也需要對其潛在問題進行風險防范。

目前，生成式人工智能應用主要存在以下風險。一是生成式人工智能自身模型存在缺陷，精確度低，推理能力一般，可解釋性和可信任性有待提高，并存在用戶隱私泄露隱患。二是無法滿足高層次教育需求，缺乏高階思維能力，不能提供人性化的互動。三是弱化師生思維能力，可能會引起師生對生成式人工智能應用的依賴性，降低其獨立思考能力。四是可能會成為“作弊”工具，給一些學生帶來“走捷徑”的想法，甚至成為考試作弊的工具。

對生成式人工智能教育應用的研究和監(jiān)管，需要重點考慮以下幾個方面：

第一，確定使用目的，教師、學生等教育相關人員要避免過度依賴工具而忽略了其他教學資源和方法。第二，思考應用情境，生成式人工智能應用可以在一些特定的情境下發(fā)揮作用，如內容創(chuàng)作、數據分析、方案生成等。值得注意的是，教師需要有選擇性地將此類應用融入教學環(huán)節(jié)中，并根據不同教學場景特點進行有針對性的管理和規(guī)范。第三，確保數據和師生隱私安全，應用提供方需要遵循相關法律法規(guī)，確保數據的合法性和安全性，同時保護師生的隱私不受侵犯。第四，注意內容質量，生成式人工智能應用的質量取決于訓練數據的質量，用戶需要對其輸出的內容進行二次辨別。第五，強化監(jiān)管和指導，教育領域的生成式人工智能技術需要加強監(jiān)管和指導，確保其應用符合教育規(guī)律和學生成長規(guī)律。相關部門應建立完善的監(jiān)管機制，對技術的應用進行審批和監(jiān)督，同時為技術的應用提供指導和支持。第六，促進技術創(chuàng)新，生成式人工智能技術的應用需要不斷進行技術創(chuàng)新，以滿足教育的需求和發(fā)展的需要。需要鼓勵企業(yè)和研究機構進行技術研發(fā)和創(chuàng)新，提高技術的質量和水平，同時避免技術濫用和低水平重復。

（作者單位系北京郵電大學教育技術研究所）

《中國教育報》2023年09月04日第4版