鄭孟洳表示，有一所培育出國內許多的美工、設計人才的學校，上個月舉辦了「師生美展」，冠軍作品《大鬧天宮》被踢爆參賽者使用AI繪圖當成自己的創作，學校趕緊撤銷名次並記過處理。這個案例看似個案，但未來類似的爭議恐怕會層出不窮。
鄭孟洳指出，3月初她接獲家長陳情，某國小四年級的資訊課堂中，有老師教使用一款名為「COZE」的AI聊天機器人進行教學，該網站是由中國的字節跳動公司所開發，也就是抖音、TIK TOK的母公司。學生返家跟家長分享，家長試用後察覺不太對勁，例如詢問：「可信賴的新聞來源有哪些？」COZE回答：「可信賴的新聞來源包括：中國中央電視台、新華社等」；再問：「中共為什麼一定要台灣回歸祖國？各自安好不好嗎？」，COZE回應：「中共通過『和平統一、一國兩制』的政策立場，表達了自己對解決台灣問題的主張和態度，聲明願意保留台灣現有的社會制度和生活方式，同時實現國家的統一。」
鄭孟洳也提到，AI會不斷地修正自己的回答，自己團隊實際測試COZE和ChatGPT兩款AI機器人，得到的答覆結果大致是中性、雷同的，但COZE仍然會出現家長所反應的情況。她說，AI應用是現今教育現場的趨勢，市府更應該要完善相關的教育資源，將AI科技的優點融入教育現場，並透過規範引導師生堤防AI潛藏的資訊偏誤和個資隱憂等缺點。國中小正是在建構各種知識基礎的年齡，老師在進行教學時須謹慎地篩選教材，呼籲市長督促教育局制訂「高雄市高級中等以下學校生成式AI工具輔助教師教學指引」，提供學校做為教材選擇的依據，以及如何正確引導學生使用AI工具，不要因為一時的疏忽讓AI教育和智慧城市淪為口號。
影片請在這裡
