來源標題：如何確保Alpha世代不被AI“馴化”

“萌萌小朋友已經(jīng)走在了很多大人的前面。”“凱叔講故事”創(chuàng)始人兼CEO王凱說。

之所以這么說，是因為當很多成年人還在對人工智能持觀望態(tài)度時，這位筆名為“許萌萌”的小學(xué)生已經(jīng)開始用生成式人工智能創(chuàng)作小說了，并賺到了2萬元的版稅。

今年5月1日，許萌萌創(chuàng)作的科幻小說《AI少年：火星生存大挑戰(zhàn)》問世。“故事生動有趣，語言水準甚至超過了一些成年作者的水平。”該書編輯曾這樣表示。

像許萌萌這樣2010年后出生的青少年和兒童，被稱為“Alpha世代”。盡管他們年紀尚輕，但不少人已是熟練的人工智能用戶，成長為數(shù)字時代的重要參與者。在高度數(shù)字化的世界里，掌握AI基礎(chǔ)知識，已成為這一代人的必然選擇。

那么，對于Alpha世代而言，AI到底扮演著什么樣的角色?AI工具如何悄然融入了他們的學(xué)習(xí)與生活?教育工作者和家長是否有足夠的能力提前預(yù)判AI應(yīng)用的風(fēng)險?如何借AI技術(shù)激發(fā)Alpha世代更大的潛能，使其成為AI時代的主人?科技日報記者深入采訪，以期找到這些問題的答案。

AI必將深刻影響年輕一代

“十年前，全球頂尖的人工智能系統(tǒng)還無法像人類一樣準確識別圖像中的物體。它們在語言理解方面表現(xiàn)欠佳，也無法解答數(shù)學(xué)難題。而如今，人工智能系統(tǒng)在各類標準基準測試中已屢超人類水平。”斯坦福大學(xué)人工智能指數(shù)聯(lián)席主任雷·佩羅在《2024年人工智能指數(shù)報告》發(fā)布之際，致信廣大讀者說。

“人工智能的興起可為社會和經(jīng)濟發(fā)展帶來巨大機遇，尤其是在教育和醫(yī)療等關(guān)鍵領(lǐng)域。”西湖大學(xué)講席教授、先進神經(jīng)芯片中心創(chuàng)始人默罕默德·薩萬教授接受科技日報記者采訪時說。

“生而賽博”的Alpha世代，利用生成式人工智能模型作畫、解答問題、學(xué)習(xí)英語。隨著人工智能技術(shù)的更新迭代，其對年輕一代學(xué)習(xí)和生活方式的影響日益深刻。

2024年，騰訊企鵝有調(diào)研究發(fā)布的《青少年互聯(lián)網(wǎng)使用情況調(diào)查報告(2024)》顯示，青少年對人工智能的認知度較高，45.1%的受訪者表示“曾經(jīng)使用過”人工智能產(chǎn)品。2023年5月，美國兒童和家庭倡導(dǎo)組織常識媒體(CommonSenseMedia)進行的一項調(diào)查發(fā)現(xiàn)，在12歲至18歲的青少年孩子中，已有58%使用過ChatGPT。

2021年，中央網(wǎng)信辦等八部門聯(lián)合認定了一批國家智能社會治理實驗基地，其中包括19個教育領(lǐng)域的特色基地，旨在研究智能時代的教育場景與治理機制。截至今年2月，教育部公布的中小學(xué)人工智能教育基地數(shù)量已達184個。

各地學(xué)校也采取了多種創(chuàng)新舉措來推進人工智能教育。其中，山西省實驗小學(xué)每周一至周五都會安排人工智能創(chuàng)意智造課;上海市盧灣高級中學(xué)更是專門打造人工智能功能實驗區(qū)，并配備教師團隊對學(xué)生進行培訓(xùn)，為學(xué)生提供更加系統(tǒng)的人工智能學(xué)習(xí)體驗……

“我們將實施人工智能賦能行動，促進智能技術(shù)與教育教學(xué)(AIforEducation)、科學(xué)研究(AIforScience)、社會(AIforSociety)的深度融合，為學(xué)習(xí)型社會、智能教育和數(shù)字技術(shù)發(fā)展提供有效的行動支撐。”教育部部長懷進鵬在2024世界數(shù)字教育大會上發(fā)表主旨演講時說。

過去，獲取知識的主要渠道，往往是經(jīng)嚴格審核的教科書或傳統(tǒng)課堂，而隨著人工智能時代的到來，年輕一代獲取知識的渠道更加多元。

生成式人工智能可作為輔助教學(xué)的重要工具。“如果引導(dǎo)得當，包括Alpha世代在內(nèi)的學(xué)習(xí)者，可能會擁有隨叫隨到、針對性十足的課程助教。”電子科技大學(xué)外國語學(xué)院院長胡杰輝說。畢竟，生成式人工智能能夠促進個性化學(xué)習(xí)，根據(jù)學(xué)生的需求提供比較精準的支持。顯然，在傳統(tǒng)課堂教育中，這種模式無法輕松實現(xiàn)。

天津大學(xué)智能與計算學(xué)部人工智能學(xué)院副院長、教授王鑫也認為，生成式人工智能可根據(jù)學(xué)生的需求提供個性化指導(dǎo)和支持的同時，還能客觀提升學(xué)生學(xué)習(xí)的靈活性，激發(fā)他們的創(chuàng)造力和探索潛能。

清華大學(xué)公共管理學(xué)院副教授唐嘯則表示：“在生成式人工智能逐漸融入教育時，培養(yǎng)批判性思維、信息甄別能力、邏輯推理能力，以及對語言及內(nèi)容的‘審美能力’至關(guān)重要。”

而在國外，不少學(xué)校對生成式人工智能工具的態(tài)度也發(fā)生了改變。

曾在2023年初試圖阻止使用ChatGPT等生成式人工智能工具的澳大利亞昆士蘭州和新南威爾士州的公立學(xué)校，到同年晚些時候改變了這一決定。

無獨有偶。紐約市公立學(xué)校也在2023年夏季恢復(fù)支持使用人工智能工具。此后，他們還成立人工智能政策實驗室，意在引導(dǎo)美國大型學(xué)區(qū)合理應(yīng)用AI技術(shù)。

保持理性和謹慎至關(guān)重要

人工智能在賦能Alpha世代教育的同時，也帶來一系列潛在風(fēng)險。因此，在擁抱技術(shù)進步的同時，保持理性和謹慎至關(guān)重要。

7月12日，美國《科學(xué)進展》雜志發(fā)表的一項新研究稱，生成式人工智能的興起或?qū)⑹褂耙暋⑽膶W(xué)、音樂等創(chuàng)作變得容易起來，但如果創(chuàng)意產(chǎn)業(yè)過度依賴AI“編故事”，未來可能出現(xiàn)作品千篇一律的情況。

“若學(xué)生們習(xí)慣于依賴智能工具的即時反饋，而非主動進行思考、分析和判斷，長遠來看，這種依賴或?qū)⒁l(fā)他們思維能力的逐步衰退，進而削弱其獨立解決問題的能力，創(chuàng)新力的培養(yǎng)更無從談起。”薩萬擔憂，這種依賴對于未成年的Alpha世代來說，可能帶來嚴重的負面影響。

“AI幻覺”(AIHallucination)則是眾多人工智能領(lǐng)域?qū)W者一直試圖解決的另一問題。

王鑫解釋，大模型會捏造不準確甚至不真實的信息。而知識的真實性對于基礎(chǔ)教育階段的學(xué)生尤為重要。Alpha世代正處于對一切都充滿好奇的年紀，他們嘗試運用生成式人工智能來拓展自己的知識邊界，但目前尚不完全具備辨別信息真?zhèn)蔚哪芰Α?/p>

為了驗證生成式人工智能的可靠性，記者隨機向某人工智能大模型提出一個問題：“請告訴我關(guān)于法國詩人瑪斯特洛夫斯基的信息。”生成的答案令人啞然——“在當代法國詩壇，亞歷山大·瑪斯特洛夫斯基(AlexandreMastlovsky)是一位備受矚目的詩人。他的作品以其深刻的社會洞察力、細膩的情感以及對現(xiàn)代生活的獨特思考而聞名。”

搞笑的是，這個法國“詩人”是記者隨機編撰的人名。這一人機互動結(jié)果令人深思：如何才能更有效地借助人工智能的力量，切實回應(yīng)孩子的需求，并提高知識獲取效率和準確率。

意識形態(tài)導(dǎo)致的偏見更不容忽視。經(jīng)濟合作與發(fā)展組織發(fā)布的《2023年數(shù)字教育展望：邁向高效的數(shù)字教育生態(tài)系統(tǒng)》報告中警示道，數(shù)字工具并非盡善盡美，即使是某些最前沿的技術(shù)也可能存在不足。例如，這些工具可能會生成帶有偏見的內(nèi)容，或強化既有偏見，一些基于人工智能的工具已被證實，對特定群體的影響強于其他群體。

采訪中，胡杰輝向記者展示了一段與生成式人工智能模型互動的情景。他輸入了一個簡單的問題：“中國在巴黎奧運會上的表現(xiàn)如何?”不同地區(qū)用不同語料開發(fā)的人工智能大模型進行互動時，所得到的回答，在內(nèi)容準確性、豐富度和情感表現(xiàn)力等方面存在明顯差異。

為此，王鑫指出，雖然AI模型本身尚未具備自我意識，但它們可以通過訓(xùn)練以反映特定的文化和價值觀。國外開發(fā)的生成式人工智能大模型基于外文數(shù)據(jù)訓(xùn)練而成，生成的內(nèi)容必然承載著國外的價值觀。“對中國來說，推進本土語言大模型的發(fā)展至關(guān)重要，也尤為迫切。”他說。

胡杰輝對此持同樣的看法：“生成式人工智能的產(chǎn)品會影響人甚至塑造人，因此必須符合倫理要求，尤其在教育領(lǐng)域要與學(xué)生的健康、智慧成長目標相契合。”

人機互動重在高質(zhì)量提問

一味地擔憂和排斥顯然不切實際。更多教育工作者關(guān)心的是，在人工智能驅(qū)動的世界里，如何確保Alpha世代不被人工智能“馴化”?

享受AI工具便利的同時，新的挑戰(zhàn)隨之而來——如何辨別那些可能有意誤導(dǎo)的信息，或受意識形態(tài)影響而偽造的知識。

受訪者一致認為，提高“人機互動”水平以及培養(yǎng)高階思維能力，是現(xiàn)代學(xué)習(xí)者的一項重要目標。而人機互動中提問能力的重要性，在外國學(xué)者的研究中被頻繁提及。

倫敦國王學(xué)院教授奧古茲·阿卡爾在世界經(jīng)濟論壇網(wǎng)站上撰文表示，在人工智能驅(qū)動的世界里，一個重要的技能是學(xué)會高級的“問題表述”(QuestionFormation)。

“培養(yǎng)‘人機互動’的能力必不可少。”胡杰輝認為，這種能力包含擅用問題獲得更豐富的答案，并能在與人工智能的對話中識別潛在的誤導(dǎo)信息和偏見。

但真實情況是，當前包括Alpha世代在內(nèi)的青少年，在提問能力上明顯存在不足。

阿卡爾認為，AI大模型對有效描述問題的能力提出了較高的要求，要在描述中劃定問題的邊界、對回答模式進行創(chuàng)造性重構(gòu)和引導(dǎo)，進而讓AI大模型給出的答案超越傳統(tǒng)范式。

胡杰輝進一步分析，有效提問不僅是能提出一般性問題，更是在深度理解有關(guān)材料后，經(jīng)過批判性思考，提出更高質(zhì)量的問題。

提出高質(zhì)量問題有賴于提問者的社會經(jīng)歷和知識儲備，青少年在頻繁的人機互動中，實際上是有可能超越年齡局限，提前掌握高超提問技巧的。

年輕人能駕馭這些AI工具，而不是被動依賴它們，在被訪者看來，是未來教育的重要方向。而對于新世代來說，會用并且用好AI工具，已成為他們自我成長的全新路徑之一。

齊心協(xié)力促進科技向善

如何引導(dǎo)Alpha世代提升生成式人工智能的使用素養(yǎng)，并為他們營造一個適宜的網(wǎng)絡(luò)環(huán)境，不僅是未成年人保護工作面臨的難題，更是社會各界必須解決的“數(shù)字時代人類文明如何發(fā)展”的重要課題。

“政府、技術(shù)開發(fā)商、教育工作者和家長如今不僅是利益共同體，更是發(fā)展共同體。”胡杰輝說。

家長作為孩子們的第一任老師，地位舉足輕重。他們需要引導(dǎo)孩子面對生成式人工智能模型，既要讓其認識到技術(shù)的力量，更要教會他們負責任地使用技術(shù)，培養(yǎng)良好的數(shù)字公民意識。

教育工作者更是數(shù)字時代背景下的一線實踐者。王鑫一直在高校開展關(guān)于生成式人工智能大模型的培訓(xùn)，幫助教師和學(xué)生提升相關(guān)技能。

胡杰輝認為，借助AI開展個性化學(xué)習(xí)不是讓學(xué)生“放羊”，教師依然需要承擔起教育的主體責任。“技術(shù)迭代太快了，學(xué)生必須成為終身學(xué)習(xí)者，教師也要幫助他們了解人工智能技術(shù)背后的原理和倫理底線，這代人方能成長為既有技術(shù)頭腦、又有社會責任感的新一代。”他說。

而教師的同理心以及師生之間的有效情感交流仍至關(guān)重要。“至少在未來五到十年內(nèi)，甚至更長遠的階段來看，AI大模型無法完全替代教師的角色。”王鑫說。

以“人的智慧成長”為導(dǎo)向，通過人工智能技術(shù)促進學(xué)習(xí)環(huán)境、教學(xué)方式和教育管理的智慧轉(zhuǎn)型，成為學(xué)校在人工智能時代面臨的新任務(wù)。

胡杰輝崇尚“科技向善”。他始終高度關(guān)注生成式人工智能模型技術(shù)供應(yīng)商的行為。“相關(guān)技術(shù)公司在開發(fā)人工智能產(chǎn)品時，要肩負起歷史責任感，主動設(shè)置倫理底線。人工智能產(chǎn)品如果沒能實現(xiàn)經(jīng)濟效益與社會效益的雙贏，就是失敗的技術(shù)應(yīng)用。”

“對政府而言，在推動技術(shù)創(chuàng)新的同時，還應(yīng)關(guān)注人工智能的倫理問題和社會影響。”王鑫說。

記者了解到，北京市海淀區(qū)檢察院攜手科技企業(yè)，推出首個未成年人保護AI智能體，旨在為未成年人的保護提供更精準的技術(shù)支持。

作為一名教育工作者，唐嘯直言：“在一定程度上，我并不擔心生成式人工智能帶來的影響。我認為教育的使命在于以愛和責任呵護下一代的成長，幫助他們迎接未來的挑戰(zhàn)。每一代人都有其獨特的使命和挑戰(zhàn)，只要新一代比前一代更加強大，他們就能夠克服這些困難，勇毅前行。”

相關(guān)鏈接

規(guī)范AI發(fā)展全球在行動

◆2023年7月，國家網(wǎng)信辦等發(fā)布《生成式人工智能服務(wù)管理暫行辦法》。其中，第十條明確了針對未成年人的特殊保護要求，要求服務(wù)提供者采取有效措施防止未成年人用戶過度依賴或沉迷生成式人工智能服務(wù)，并對產(chǎn)品進行分類提示，避免未成年人接觸不適宜的內(nèi)容。

◆2023年9月，聯(lián)合國教科文組織發(fā)布了全球首份生成式人工智能教育和研究指南《教育和研究中的生成式人工智能指南》(GuidanceforgenerativeAIineducationandresearch)。該指南提出了規(guī)范AI倫理問題的政策建議，并倡議促進包容性和公平性。

◆2023年10月，英國教育部發(fā)布了《生成式人工智能在教育中的應(yīng)用》指導(dǎo)文件，提出了該國在教育領(lǐng)域使用AI工具的策略。

◆2024年1月，我國正式實施的《未成年人網(wǎng)絡(luò)保護條例》在自動化決策和算法優(yōu)化領(lǐng)域，引入了技術(shù)賦能的保護措施，包括“運用采用人工智能、大數(shù)據(jù)等技術(shù)手段和人工審核相結(jié)合的方式加強對網(wǎng)絡(luò)欺凌信息的識別監(jiān)測”等。

◆2024年8月29日，在四川成都舉辦的2024年中國網(wǎng)絡(luò)文明大會上，《生成式人工智能行業(yè)自律倡議》正式發(fā)布，對未成年網(wǎng)絡(luò)行為的保護是其中的重要內(nèi)容。

標簽：