联合国儿童基金会近期发布的一项声明指出,全球至少有2000万名儿童已经接触过人工智能,且青少年使用该技术的增长速度是成年人的三倍以上。这一数据既带来了积极的展望,也引发了对儿童安全防护的担忧,表明人工智能安全教育已迫在眉睫。

人工智能为儿童教育提供了前所未有的机会,能够打破地域和师资限制,提供个性化学习支持,并作为情感出口帮助内向或有社交障碍的儿童。此外,智能语音和实时翻译等功能有助于有特殊需求或非母语儿童平等参与学习和社交。合理利用人工智能,可以极大地丰富儿童成长的可能性。

然而,机遇的另一面是儿童面临的严峻风险。人工智能对心智尚未成熟的儿童构成了多方面的安全挑战。

首先是内容与认知风险。儿童辨别能力有限,长期接触迎合式、无条件的AI陪伴,可能导致过度情感依赖,削弱现实社交能力。部分儿童过度依赖AI代写作业,可能损害其独立思考能力。

其次是隐私安全危机。许多平台的加密机制不完善,容易导致大量未成年人信息泄露,进而引发精准电信诈骗和个人信息滥用,威胁人身及财产安全。

此外,AI还催生了新型侵害。不法分子利用深度伪造技术,将大量儿童照片制作成低俗色情影像,大幅降低了儿童性剥削的门槛。同时,AI技术能够精准推送网络暴力、极端价值观和不良生活导向等有害内容,侵蚀未成年人的成长环境。

构建一个有利于儿童健康成长的人工智能系统,需要政府、企业、学校和家庭的共同努力。

完善法治是首要的保障。中国已在相关领域迈出重要步伐,将于7月15日起施行的《人工智能拟人化互动服务管理暂行办法》禁止向未成年人提供虚拟亲密关系服务,并要求设置未成年人模式和时长限制,这是全球对AI情感交互服务进行监管的创举。未来,应将儿童权利更全面地纳入人工智能治理体系。

加强研究是认知的基础。目前关于AI对儿童认知发展、情绪健康及潜在危害的研究尚处于起步阶段,需要加大投入,系统评估不同AI应用对不同年龄段儿童的具体影响,为制定精准政策提供科学依据。

源头治理依赖于安全设计。AI产品应在设计之初就进行儿童安全影响评估,而非上市后再修补漏洞。数据收集和处理应遵循最小化原则,并获得父母或监护人的知情同意。功能设计应体现克制,加入家长授权机制,并减少屏幕占用时间和社交刺激。

长远来看,提升素养至关重要。学校和家庭应将AI素养教育融入日常。家长应为孩子设定AI使用的安全界限,强调独立思考和现实社交的重要性。更重要的是,满足孩子现实生活中的情感需求,从根本上降低其对AI的心理依赖。

人工智能安全从娃娃抓起,将为创新注入更多人文关怀。在拥抱人工智能无限可能性的同时,我们应从儿童的视角审视这个世界。儿童作为数字时代的原住民,应当在真实的人际互动、自由的探索试错以及富有温度的教育关怀中健康成长。

(本文来源:经济日报 作者:佘惠敏)